跳到正文
我的
热点事件持续更新

arXiv论文提出用缓存轨迹高效评测Agent方法

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

一项arXiv研究提出一种减少Agent评测执行次数的方法:用LLM提取Agent执行轨迹的结构化摘要,经文本编码器嵌入表示,再用几何方法在参考系统之间预测新系统的得分。 在SWE-bench Verified和Terminal-Bench 2.0上,结合item-response模型后,仅执行单个随机任务时平均绝对误差分别从0.13降至0.08(Wilcoxon p < 10^-4)和从0.14降至0.12(p < 10^-3);在完整参考系统下,该方法在任意任务数上均优于基线。

AI 根据报道生成 · 16 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv · cs.AI
    利用缓存 Trace 实现任务高效的 Agent 评测方法

    一项 arXiv 研究提出用 LLM 提取结构化摘要并经文本编码器嵌入来表示 Agent 执行 trace,再用几何方法在参考系统间预测新系统得分。在 SWE-bench Verified 和 Terminal-Bench 2.0 上,结合 item-response 模型后,仅执行单个随机任务时平均绝对误差分别从 0.13 降至 0.08(Wilcoxon p < 10^-4)和从 0.14 降至 0.12(p < 10^-3);在完整参考系统下该方法在任意任务数上均优于基线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。