开发者开源多Provider LLM网关,统一路由Groq与Gemini
热点事件历史事件
开发者开源多Provider LLM网关,统一路由Groq与Gemini
1 篇报道1 个报道来源12 天前更新
先了解这件事
AI 综述
开发者 jagath-24 在 GitHub 开源 multi-provider-llm-gateway v2,将其原内部服务网关扩展为多厂商 LLM 控制面,为 Groq 和 Gemini 提供统一聊天 API,项目支持 round-robin、cheapest-first、fastest-first 和失败自动回退四种路由策略,每个厂商配备遵循 Resilience4j 模式的熔断器,可迁移到 Spring Boot。 项目附带 MySQL 持久化、提供方健康指标、故障模拟测试和 React 运维控制台。API 密钥仅保存在服务端适配器中、不发送到浏览器;当没有配置任何厂商密钥时,控制台会使用安全的演示适配器,界面、路由控制、请求日志和回退模拟仍可使用。
AI 根据报道生成 · 10 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- GitHub · 灵魂体仓库精选jagath-24 开源 multi-provider-llm-gateway v2,统一 Groq 与 Gemini 的聊天 API 路由
jagath-24 发布 Distributed API Gateway v2,把原内部服务网关扩展为多厂商 LLM 控制面,提供覆盖 Groq 和 Gemini 的统一聊天 API,项目地址 https://github.com/jagath-24/multi-provider-llm-gateway。支持 round-robin、cheapest-first、fastest-first 和 fallback-on-failure 路由策略,每个厂商有 CLOSED/OPEN/HALF_OPEN 熔断器,遵循 Resilience4j 模式,可迁移到 Spring Boot。附带 MySQL 持久化、提供方健康指标、故障模拟测试和 React 运维控制台,API 密钥仅保存在服务端适配器中。