arXiv · cs.AI· Chao Chen·· 20 小时前AI 评分50
从表示与优化视角重新审视安全对齐 LLM 的过度拒答问题：提出 GOAL 框架
Revisiting Over-refusal in Safety-aligned Large Language Models: A Representation and Optimization Perspective
来源与原文
arXiv · cs.AI
作者：Chao Chen
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.39802v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 GOAL（Gradient Orthogonalization with contrAstive Learning）框架，用于缓解安全对齐大语言模型对无害查询的过度拒答。分析发现，有害样本梯度集中于低秩子空间、且比有用目标梯度更易与拒答目标耦合，深层表示中过度拒答与有害样本逐渐重叠。GOAL 通过将过度拒答梯度对拒答子空间正交化，并引入对比学习目标分离表示，在多个模型和 benchmark 上降低过度拒答的同时保持安全性与通用能力。
来源：arXiv · cs.AI · arxiv.org