跳到正文
我的
arXiv · cs.AI· Ben Johnson·· 16 小时前AI 评分39

利用缓存 Trace 实现任务高效的 Agent 评测方法

Task-Efficient Agent Evaluation Using Cached Traces

来源与原文

arXiv · cs.AI

作者:Ben Johnson

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.06803v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一项 arXiv 研究提出用 LLM 提取结构化摘要并经文本编码器嵌入来表示 Agent 执行 trace,再用几何方法在参考系统间预测新系统得分。在 SWE-bench Verified 和 Terminal-Bench 2.0 上,结合 item-response 模型后,仅执行单个随机任务时平均绝对误差分别从 0.13 降至 0.08(Wilcoxon p < 10^-4)和从 0.14 降至 0.12(p < 10^-3);在完整参考系统下该方法在任意任务数上均优于基线。

来源:arXiv · cs.AI · arxiv.org

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。