跳到正文
GitHub · 灵魂体仓库·· 4 天前AI 评分42

Manifest LLM Gateway:开源 LLM 网关,为 AI Agent 统一路由 API 密钥、订阅与本地模型

mnfst/llm-gateway

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/mnfst/llm-gateway

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Manifest LLM Gateway 是一个开源 LLM 网关,面向 AI Agent 和应用,将 API 密钥、订阅和本地模型接入同一 OpenAI 兼容端点,查询可发给正确模型,避免单一厂商锁定。它支持 300+ 模型、35 个内置 provider 连接和 18 种订阅流程,提供完整请求日志、费用追踪与限额通知,并在查询失败时自动 fallback 到其他模型。可通过 Docker 镜像自托管或 Cloud 版使用,采用 MIT 协议。

来源:GitHub · 灵魂体仓库 · github.com