GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分56
devin-evals:基于 Devin 会话记录的确定性 Agent 评测框架
Icaro0310/devin-evals
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Icaro0310/devin-evals
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Icaro0310 发布开源项目 devin-evals,一个针对 Devin Agent 工作的评测框架,通过定义带评分标准的用例,回放 Devin 已记录的会话并按时间打分,为「Agent 是否变好」提供数字信号。
推荐理由
这个评测框架用 Devin 会话里已记录的 tool_call_state 做确定性打分,把提示词改动后的回归信号变成可复现的数字。
来源:GitHub · 去对齐工具与仓库 · github.com