GitHub · 灵魂体仓库·· 18 天前AI 评分30
hifi-llm：一个 OpenAI 兼容的多后端 LLM 反向代理
marc-ramsey/hifi-llm
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/marc-ramsey/hifi-llm
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 hifi-llm 是一个轻量级、OpenAI 兼容的反向代理，可将请求按模型名路由到多个 LLM 后端，提供统一的 /v1/* API。它支持 SSE 流式透传、可热重载的 YAML 配置、插件系统，并可通过可选 Bearer token 实现单一全局 API key 认证。
来源：GitHub · 灵魂体仓库 · github.com