跳到正文
arXiv · cs.AI· Yifan Wang·· 1 天前AI 评分36

在下一次 Rollout 之前:从策略更新诊断技能效用变化

Before the Next Rollout: Diagnosing Skill Utility Shifts from Policy Updates

来源与原文

arXiv · cs.AI

作者:Yifan Wang

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.39358v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文提出用策略更新信号诊断 agent 技能边际效用的变化,因为策略更新可能改变未变技能的行为效果与边际效用,使基于旧轨迹的归因失效。方法复用已有训练 rollout,将交互变化与优势估计结合生成 reward-directed 读数,仅需前向传播做单步动作打分,无需更新后的额外 rollout 评估。实验表明该读数可识别效用下降的技能,将其用于技能演化中的优先级排序可提升下游性能并减少策略与 editor token 消耗。

来源:arXiv · cs.AI · arxiv.org