Reddit · r/LocalLLaMA· /u/AIMultiple·· 6 天前AI 评分41
AIM System One Index 排行榜发布:57 个决策模型按准确率、偏差、成本与延迟排名
We built the AIM System One Index, a leaderboard for decision models (57 models ranked on accuracy, bias, cost and latency)
来源与原文
Reddit · r/LocalLLaMA
作者:/u/AIMultiple
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xb73q4/we_built_the_aim_system_one_index_a_leaderboard/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
AIMultiple 团队推出 AIM System One Index,用于评测以单次前向返回带概率决策的决策模型(System One models),榜单综合浏览器任务、1,655 道单决策分类题和偏差测试三项基准,以 z-score 计分。57 个模型中 AutoJev-27B、d1-ultra 和 decider-12b 并列第一(60 分);d1-ultra 浏览器任务得分 74%,成本 $0.026 per 1,000 decisions;Decider Flash V1.2 最便宜,为 $0.007 per 1,000 decisions;Laya 最快,每决策 30 ms。
来源:Reddit · r/LocalLLaMA · reddit.com