arXiv · cs.CL· Basar Demir·· 11 天前AI 评分35
如何将大语言模型对齐至反事实不变性
Aligning Language Models Towards Counterfactual Invariance
来源与原文
arXiv · cs.CL
作者：Basar Demir
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.22942v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出，标准对齐方法（如强化学习）虽提升整体回答质量，却放大了跨人群的反事实偏差。作者开发一种基于成对反事实提示和群体级奖励函数的策略梯度技术，并构建受控反事实提示对数据集与评测方法。在多个 fairness benchmark 上验证，该方法能降低反事实差异、保持整体回答质量，且当人口信息与任务因果相关时模型仍能恰当利用。
来源：arXiv · cs.CL · arxiv.org