跳到正文
我的
GitHub · 去对齐工具与仓库·· 1 天前精选AI 评分60

Mupt AI 推出 SelfBench:用仓库自身已合并 PR 构建私有编码智能体基准

mupt-ai/self-bench

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/mupt-ai/self-bench

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Mupt AI 发布 SelfBench,把仓库已合并的 PR 还原成带隐藏测试的任务,再让智能体和模型在这些任务上运行,并按准确率与单任务成本绘制 Pareto 前沿。每个在 selfbench.dev 上公开的开源仓库都会获得实时榜单,已列出 vercel/next.js、supabase/supabase、getsentry/sentry 等仓库。任务需通过四项校验才算有效:无解时测试失败、原始实现下通过、重跑仍通过、并通过独立评审。

推荐理由

用仓库自己的已合并 PR 造私有编码基准,并按准确率与成本画出 Pareto 前沿,给出公开榜单之外的另一种选型依据。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。