跳到正文
热点事件历史事件

开发者开源多Provider LLM网关,统一路由Groq与Gemini

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

开发者 jagath-24 在 GitHub 开源 multi-provider-llm-gateway v2,将其原内部服务网关扩展为多厂商 LLM 控制面,为 Groq 和 Gemini 提供统一聊天 API,项目支持 round-robin、cheapest-first、fastest-first 和失败自动回退四种路由策略,每个厂商配备遵循 Resilience4j 模式的熔断器,可迁移到 Spring Boot。 项目附带 MySQL 持久化、提供方健康指标、故障模拟测试和 React 运维控制台。API 密钥仅保存在服务端适配器中、不发送到浏览器;当没有配置任何厂商密钥时,控制台会使用安全的演示适配器,界面、路由控制、请求日志和回退模拟仍可使用。

AI 根据报道生成 · 10 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. GitHub · 灵魂体仓库精选
    jagath-24 开源 multi-provider-llm-gateway v2,统一 Groq 与 Gemini 的聊天 API 路由

    jagath-24 发布 Distributed API Gateway v2,把原内部服务网关扩展为多厂商 LLM 控制面,提供覆盖 Groq 和 Gemini 的统一聊天 API,项目地址 https://github.com/jagath-24/multi-provider-llm-gateway。支持 round-robin、cheapest-first、fastest-first 和 fallback-on-failure 路由策略,每个厂商有 CLOSED/OPEN/HALF_OPEN 熔断器,遵循 Resilience4j 模式,可迁移到 Spring Boot。附带 MySQL 持久化、提供方健康指标、故障模拟测试和 React 运维控制台,API 密钥仅保存在服务端适配器中。