GitHub · 去对齐工具与仓库·· 20 天前AI 评分48
Go LLM Interactive Proxy:面向 LLM 流量的流式优先控制平面
matdev83/go-llm-interactive-proxy
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/matdev83/go-llm-interactive-proxy
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 Go LLM Interactive Proxy(LIP)是一个流式优先的 LLM 流量控制平面,位于 AI 客户端与后端之间,使运营者可在代理层调整路由、容灾与可观测性而不改动客户端集成。它提供 OpenAI Responses、Anthropic Messages、Gemini 等多协议前端,内置 141 个 provider profiles,支持有序故障转移、加权路由、TTFT 预算与熔断,并通过 pkg/lipsdk 提供扩展插件机制。
来源:GitHub · 去对齐工具与仓库 · github.com