arXiv · cs.CL· Yun Li·· 6 天前精选AI 评分56
ECHO 论文揭示偏好优化中共同模态偏移导致词表坍缩的机制
ECHO: Emergent Common-Mode Hidden Offsets Drive Vocabulary Collapse in Preference Optimization
来源与原文
arXiv · cs.CL
作者：Yun Li
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.29410v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 ECHO 提出偏好优化的失败源于共同模态偏移，即隐状态中跨 token 位置、提示词和 chosen/rejected 响应共享的方向性偏移，相对排序损失几乎察觉不到其累积；该偏移投影到输出层形成词表井，使单一 token 概率主导解码并引发生成坍缩。在所研究的 per-token 排序损失下，同样的坍缩出现在 17 个 base 模型谱系中的 14 个，且注入该偏移可复现坍缩、屏蔽该成分可预防；教科书式 DPO 偏移较弱，而全参数 SimPO 在 Llama-2 和 Llama-3.1 上均驱动其坍缩。17 次 UltraFeedback 运行显示排名指标越好，两个公开奖励模型反而越少偏好其样本，揭示了标准排序指标的盲区。
推荐理由
论文用注入和消融实验把偏好优化中的共同模态偏移与词表坍缩因果联系起来，并给出可在坍缩前预警的表征层信号。
来源：arXiv · cs.CL · arxiv.org