arXiv · cs.AI· Julia Barth·· 13 天前精选AI 评分52
arXiv 论文揭示目标误泛化中策略对齐的三种不同失败形式
What Happens to the Goal? Distinct Failures of Policy Alignment in Goal Misgeneralization
来源与原文
arXiv · cs.AI
作者：Julia Barth
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.19731v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 2610.19731 研究目标误泛化中目标在智能体内部丢失的机制，在 3 个 Procgen 环境和 5 个机器人任务上识别出三种策略-目标失准形式：功能目标替换、动作捷径和线索竞争。通过追踪目标信息在内部的位置、对策略的影响强度和作用，发现目标丢失发生在不同深度；目标到达决策层时引导可将目标达成率从 16.0% 提到 95.3%，只到策略层时需改接下游线路，从 31.6% 提到 84.3%，完全失效时两者均无效。
推荐理由
论文把目标误泛化拆成三种不同深度的策略失准，并给出每种情形对应哪种修复手段有效的实测数据。
来源：arXiv · cs.AI · arxiv.org