GitHub · 灵魂体仓库·· 20 天前精选AI 评分55
Mozilla AI 开源自托管 LLM 网关 Otari
mozilla-ai/otari
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mozilla-ai/otari
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Mozilla AI 在 GitHub 开源了 Otari,一个可自托管的 OpenAI 兼容 LLM 网关,单个端点可路由到 40+ 提供商,支持虚拟密钥、预算控制和用量追踪。
推荐理由
Mozilla AI 开源了自托管的 LLM 网关 Otari,README 给出 Docker 快速启动、三种运行模式和密钥管理细节,可自行部署评估。
来源:GitHub · 灵魂体仓库 · github.com