HoS注意力门控防提示注入论文发布
热点事件持续更新
HoS注意力门控防提示注入论文发布
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
论文提出 Heads of Security（HoS）提示注入防御方法，通过少量按注意力头学习的门控实现指令与数据分离。作者在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 两个模型上评测，黑盒攻击 RL-Hammer 对 GPT-OSS-20B 达 97% 攻击成功率、对另一防御方法 SecAlign 达 85%，而对 HoS 仅 10%。论文还称在少样本设置下 HoS 保持基础模型效用，SecAlign 和 ASIDE 会退化，其中 ASIDE 工具使用效用仅 10%。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 01:58
Heads of Security：用学习型注意力门控提升提示词注入鲁棒性报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · cs.CL精选Heads of Security：用学习型注意力门控提升提示词注入鲁棒性
论文提出 Heads of Security（HoS），通过少量按注意力头学习的门控实现指令与数据分离，在 Llama-3.3-70B-Instruct 和 GPT-OSS-20B 上评测。黑盒攻击 RL-Hammer 对 GPT-OSS-20B 达 97% ASR、对 SecAlign 达 85%，对 HoS 仅 10%；HoS 在少样本设置下保持基础模型效用，而 SecAlign 和 ASIDE 会退化，ASIDE 工具使用效用仅 10%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。