GitHub · 去对齐工具与仓库·· 2 天前精选AI 评分66
GoRoute 开源:面向编码 Agent 的高性能 LLM 网关与多供应商路由器
ziuus/goroute
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ziuus/goroute
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
ziuus 在 GitHub 发布 GoRoute,一个用 Go 核心 + Rust SIMD 编写的 LLM 网关与多供应商路由器,支持 338+ 供应商预设和 35 个编码 Agent 的一键配置。官方基准显示在 500 并发流式请求下空闲内存 4.7MB、路由开销 0.86ms、冷启动 11ms,并支持 0.5 秒内从 OmniRoute 加密库同步账号、凭证与 failover 组合。
推荐理由
README 附带与 OmniRoute、LiteLLM 的同条件基准数据,空闲内存、路由延迟和冷启动差距都有具体数字可查。
来源:GitHub · 去对齐工具与仓库 · github.com