GitHub · 去对齐工具与仓库·· 5 天前AI 评分46
llm-bench 0.1.0:可插拔 LLM 基准测试框架发布(alpha)
fingoldo/llm_bench
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/fingoldo/llm_bench
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
fingoldo 在 GitHub 开源 llm-bench 0.1.0(alpha),一个可插拔 LLM 基准测试框架,用成本分级筛选、Sequential Halving 逐轮淘汰、断点续跑缓存和分阶段预算上限,把数千次付费调用降到最低。框架支持 Postgres、文件、内存三种存储后端,并通过 CostFilter 支持按每百万 token 输出价格与上下文长度过滤候选模型,MIT 协议发布。
来源:GitHub · 去对齐工具与仓库 · github.com