跳到正文
GitHub · 去对齐工具与仓库·· 11 天前AI 评分48

route-arena:一个轻量级 LLM 路由器开源项目

Danush-Aries/route-arena

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Danush-Aries/route-arena

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 route-arena 是一个类型化、零运行时依赖的 LLM 路由器,可按 cost/quality/latency 的 Pareto 前沿为每个 prompt 选择最合适的模型,支持 cost_optimal、quality_first、balanced 三种策略并可在 arena 中实时 A/B 对比。默认离线 mock 模式运行、无需付费 API key,可选接入 OpenAI / Anthropic 真实 API;离线评测显示 balanced 策略比 quality_first 便宜约 74%,gpt-4o-mini 与 llama-3-70b 锚定低价端,claude-sonnet 锚定质量端。

来源:GitHub · 去对齐工具与仓库 · github.com