arXiv · cs.AI· Seyedarmin Azizi·· 15 天前AI 评分42
尖锐方向在对立面：激活导向的曲率分析
The Sharp Directions Are Against You: Curvature Analysis of Activation Steering
来源与原文
arXiv · cs.AI
作者：Seyedarmin Azizi
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.16084v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
该研究提出 steering Hessian 分析语言模型激活导向向量，发现 CAA 构造中仅占平方范数 1-5% 的尖锐方向导致导向失效，在 36 个条件下 53-100% 的测试中出现反向行为。剔除尖锐分量可将方向曲率最高降低 12 倍，在 Qwen2.5-7B、Llama-3.1-8B、Mistral-7B 上验证，该修正方法在全部 25 个开放生成条件中优于标准 CAA。
来源：arXiv · cs.AI · arxiv.org