GitHub · 灵魂体仓库·· 13 天前精选AI 评分55
maiGoLLMRouter 发布 v0.1.8 单二进制 LLM API 路由器
yufei-pan/maiGoLLMRouter
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/yufei-pan/maiGoLLMRouter
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
yufei-pan 在 GitHub 发布 maiGoLLMRouter,一个仅依赖 Go 标准库和单个 TOML 解析器的单二进制 LLM API 路由器,接受 OpenAI 风格请求并转发到 OpenAI、Anthropic 或 Gemini。支持多密钥随机选择与有序回退、失败密钥按时长拉黑、输出校验重试、流式转发、语音合成与转写、模型名到多目标的映射及 catch-all 回退提供商。附带内嵌 Web UI 查看 JSONL 日志、--generate-systemd 生成沙箱化 systemd 单元,并提供 Linux、macOS、Windows 的预编译二进制。
推荐理由
README 详细给出了路由算法、方言翻译与密钥容错机制,读者可以直接判断这个单文件路由器是否满足自建多厂商 API 网关的需求。
来源:GitHub · 灵魂体仓库 · github.com