跳到正文
GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分66

llm-route-audit 开源:用真实流量审计 LLM 模型路由是否真的省钱不降质

good2idnan/llm-route-audit

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/good2idnan/llm-route-audit

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

good2idnan 在 GitHub 开源了 routeaudit 命令行工具,用你自己的日志回放请求到更便宜的候选模型,逐任务对比答案质量并给出路由策略。演示中 5 个请求全用 Haiku 成本降到 19% 但只有 58% 通过,按任务路由则在 26% 成本下保持全部通过;工具支持 Anthropic、OpenRouter、Ollama,提供成本估算与 --max-spend 硬上限,可导出 YAML 或 LiteLLM 配置,v0.1 暂不支持 agent 与工具调用。

推荐理由

工具用你自己日志回放并按任务类型给出降本建议,还内置花费上限,示例显示全用 Haiku 省钱但只有 58% 通过率。

来源:GitHub · 去对齐工具与仓库 · github.com