GitHub · 灵魂体仓库·· 15 天前AI 评分42
NishaM2/LLM-Gateway：兼容 OpenAI 格式的 LLM 网关
NishaM2/LLM-Gateway
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/NishaM2/LLM-Gateway
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 上的 LLM-Gateway 是一个兼容 OpenAI 格式的 LLM 网关，应用指向它而非具体厂商，由它校验请求、转发、流式回传并记录用量。网关监听 3000 端口，Postgres 为必需依赖，Redis 可选且断线后可自动重连；支持 fast/smart/balanced 等逻辑名在 Groq 与 Gemini 间回退，提供 mock-429、mock-500 等测试模型，失败调用最多重试 3 次，采用指数退避加抖动。
来源：GitHub · 灵魂体仓库 · github.com