GitHub · 灵魂体仓库·· 4 天前AI 评分30
XiaoCheng991/LLM-gateway:手写 Java 实现的多 Provider 大模型 API 统一网关
XiaoCheng991/LLM-gateway
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/XiaoCheng991/LLM-gateway
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开发者 XiaoCheng991 在 GitHub 开源了 LLM-gateway,一个手写 Java(JDK 21+ / Spring Boot 4.x)实现的多 Provider 大模型 API 统一网关,解决多模型管理混乱、切换成本高和调用不可观测的问题。当前支持 Nvidia(deepseek-ai/deepseek-v4-flash)和 OpenRouter(owl-alpha)两个 Provider,非流式调用已可用、SSE 流式开发中,提供 OpenAI 兼容的 /api/chat/completions 端点、工厂模式路由、多轮对话、SQLite 会话持久化及 ReAct Agent 能力,模型映射配置在 yml 白名单中,换模型只改配置不改代码。
来源:GitHub · 灵魂体仓库 · github.com