arXiv · cs.AI· Xueqi Ma·· 21 天前精选AI 评分52
通过价值定位实现大语言模型多价值对齐的研究论文
Towards Multi-Value Alignment via Value Localization in LLMs
来源与原文
arXiv · cs.AI
作者:Xueqi Ma
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.02503v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一篇被 NeurIPS 2026 接收的 arXiv 论文(arXiv:2611.02503)从机制可解释性角度研究多价值对齐,用探测方法定位出与无害、诚实等人类价值及连贯性等风格偏好相关的稀疏注意力头集合。头消融实验引起价值特定的行为变化,提供了因果证据;作者据此提出推理时激活转向策略,可在不更新模型参数的情况下对单个或组合价值进行可控对齐,多基准实验显示在保持非目标性能的同时实现单价值与多价值控制。
推荐理由
论文把多价值对齐落到具体注意力头上,给出定位方法、消融因果证据和推理时无需微调的调控方案。
来源:arXiv · cs.AI · arxiv.org