跳到正文
热点事件持续更新

论文称策略会隐性继承评测harness的偏好

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

arXiv 论文(2610.37255,作者 Jian Mu 等)提出:训练后的智能体策略会继承其 harness(评测接口)对各动作的偏好,部署回报等于 harness 上限减去策略与 harness 之间的失配。也就是说,模型表现好可能部分来自与特定评测设置的隐性契合,而非纯粹的能力。 论文给出两组实验支持:在 MiniWoB++ 上,仅调换观测字段的顺序,训练模型的成功率就从 85.0% 降到 19.2%;在 Terminal-Bench Lite 上,用更强模型估计的“上限减失配”能复现各模型的准确率排名,而任何单项指标都不能。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv · cs.CL
    arXiv 论文提出策略暗中继承 harness 偏好的决策几何分析

    arXiv 论文(2610.37255)提出,训练后的策略会继承其 harness 对各动作的偏好,部署回报等于 harness 上限减去策略自身的失配。在 MiniWoB++ 中,仅调换观测字段顺序就使训练模型成功率从 85.0% 降至 19.2%;在 Terminal-Bench Lite 上,用更强模型估计的上限减失配能复现准确率排名,而任一单项不能。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。