GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分66
llm-route-audit 开源:用真实流量审计 LLM 模型路由是否真的省钱不降质
good2idnan/llm-route-audit
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/good2idnan/llm-route-audit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
good2idnan 在 GitHub 开源了 routeaudit 命令行工具,用你自己的日志回放请求到更便宜的候选模型,逐任务对比答案质量并给出路由策略。演示中 5 个请求全用 Haiku 成本降到 19% 但只有 58% 通过,按任务路由则在 26% 成本下保持全部通过;工具支持 Anthropic、OpenRouter、Ollama,提供成本估算与 --max-spend 硬上限,可导出 YAML 或 LiteLLM 配置,v0.1 暂不支持 agent 与工具调用。
推荐理由
工具用你自己日志回放并按任务类型给出降本建议,还内置花费上限,示例显示全用 Haiku 省钱但只有 58% 通过率。
来源:GitHub · 去对齐工具与仓库 · github.com