arXiv · cs.CL· Igor Shilov·· 11 小时前精选AI 评分70
Heads of Security：用学习型注意力门控提升提示词注入鲁棒性
Heads of Security: Learned Attention Gates Improve Prompt Injection Robustness
来源与原文
arXiv · cs.CL
作者：Igor Shilov
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.37657v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 Heads of Security（HoS），通过少量按注意力头学习的门控实现指令与数据分离，在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上评测。黑盒攻击 RL-Hammer 对 GPT-OSS-20B 达 97% ASR、对 SecAlign 达 85%，对 HoS 仅 10%；HoS 在少样本设置下保持基础模型效用，而 SecAlign 和 ASIDE 会退化，ASIDE 工具使用效用仅 10%。
推荐理由
论文给出了与 SecAlign++ 和 ASIDE 的具体攻防数据对比，可帮助读者了解注意力门控路线在提示词注入防御上的实际位置。
来源：arXiv · cs.CL · arxiv.org