研究者提出GOAL框架缓解大模型过度拒答
热点事件持续更新
研究者提出GOAL框架缓解大模型过度拒答
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
研究者在arXiv发布论文，提出GOAL（Gradient Orthogonalization with contrAstive Learning）框架，用于缓解安全对齐大语言模型对无害查询的过度拒答。 该框架的出发点是对过度拒答成因的分析：有害样本的梯度集中于低秩子空间，比有用目标梯度更易与拒答目标耦合，且在深层表示中过度拒答与有害样本逐渐重叠。GOAL的做法是将过度拒答梯度对拒答子空间做正交化，并引入对比学习目标分离两者的表示。论文称，在多个模型和benchmark上，该方法降低了过度拒答，同时保持安全性与通用能力。
AI 根据报道生成 · 59 分钟前更新
最新进展10月29日 18:47
从表示与优化视角重新审视安全对齐 LLM 的过度拒答问题：提出 GOAL 框架报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- arXiv · cs.AI从表示与优化视角重新审视安全对齐 LLM 的过度拒答问题：提出 GOAL 框架
研究者提出 GOAL（Gradient Orthogonalization with contrAstive Learning）框架，用于缓解安全对齐大语言模型对无害查询的过度拒答。分析发现，有害样本梯度集中于低秩子空间、且比有用目标梯度更易与拒答目标耦合，深层表示中过度拒答与有害样本逐渐重叠。GOAL 通过将过度拒答梯度对拒答子空间正交化，并引入对比学习目标分离表示，在多个模型和 benchmark 上降低过度拒答的同时保持安全性与通用能力。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。