跳到正文
GitHub · 去对齐工具与仓库·· 2 天前AI 评分31

ctrlProgrammer 开源 os-agents-evals:一个数据集对比多模型准确率、成本与延迟的 CLI

ctrlProgrammer/os-agents-evals

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ctrlProgrammer/os-agents-evals

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

ctrlProgrammer 在 GitHub 发布 os-agents-evals,一个用同一数据集对比多个模型准确率、成本与延迟的 CLI。以 Oxford-IIIT Pet 猫犬品种识别为示例(测试集 3,669 张图、37 个品种),20 张图实测中 JEV 准确率 90%、$0.06/1k 查询、p95 延迟 0.32s,Gemini 2.5 Flash 为 95%、$1.64/1k 查询、p95 延迟 4.84s。每个模型使用独立 JSON 提示词,用例与图片不进 git。

来源:GitHub · 去对齐工具与仓库 · github.com