跳到正文
Reddit · r/LocalLLaMA· /u/AIMultiple·· 6 天前AI 评分41

AIM System One Index 排行榜发布:57 个决策模型按准确率、偏差、成本与延迟排名

We built the AIM System One Index, a leaderboard for decision models (57 models ranked on accuracy, bias, cost and latency)

来源与原文

Reddit · r/LocalLLaMA

作者:/u/AIMultiple

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xb73q4/we_built_the_aim_system_one_index_a_leaderboard/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

AIMultiple 团队推出 AIM System One Index,用于评测以单次前向返回带概率决策的决策模型(System One models),榜单综合浏览器任务、1,655 道单决策分类题和偏差测试三项基准,以 z-score 计分。57 个模型中 AutoJev-27B、d1-ultra 和 decider-12b 并列第一(60 分);d1-ultra 浏览器任务得分 74%,成本 $0.026 per 1,000 decisions;Decider Flash V1.2 最便宜,为 $0.007 per 1,000 decisions;Laya 最快,每决策 30 ms。

来源:Reddit · r/LocalLLaMA · reddit.com