GitHub · 去对齐工具与仓库·· 11 天前AI 评分48
route-arena:一个轻量级 LLM 路由器开源项目
Danush-Aries/route-arena
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Danush-Aries/route-arena
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 route-arena 是一个类型化、零运行时依赖的 LLM 路由器,可按 cost/quality/latency 的 Pareto 前沿为每个 prompt 选择最合适的模型,支持 cost_optimal、quality_first、balanced 三种策略并可在 arena 中实时 A/B 对比。默认离线 mock 模式运行、无需付费 API key,可选接入 OpenAI / Anthropic 真实 API;离线评测显示 balanced 策略比 quality_first 便宜约 74%,gpt-4o-mini 与 llama-3-70b 锚定低价端,claude-sonnet 锚定质量端。
来源:GitHub · 去对齐工具与仓库 · github.com