arXiv · cs.AI· Saket Reddy·· 11 小时前精选AI 评分65
arXiv 论文提出 SimpleLoRIF 梯度过滤法并发布 SafeTulu 降低微调安全退化
Follow the Gradient: Tracing Safety Degradation Back to Training Data
来源与原文
arXiv · cs.AI
作者：Saket Reddy
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.37481v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 SimpleLoRIF，一种可扩展的梯度嵌入方法，用于识别微调数据中与不安全行为梯度对齐的样本。该方法将反向传播限制在最后四个 transformer 块，可处理约百万量级样本的数据集；在 emergent misalignment 上梯度空间 AUC 最高达 0.865。基于该方法构建的 SafeTulu（移除 Tulu 3 中 20% 梯度最对齐不安全回复的样本）在 Qwen、Llama 和 Olmo 上将 GCG 攻击成功率最多降低 22%，优于 LLM-as-a-judge 和既有梯度过滤，且基本保持甚至提升能力。作者还发现工具执行失败和叙事算术等此前较少研究的安全退化来源，并发布了 SafeTulu 与可自定义过滤参数的 Hugging Face Space。
推荐理由
论文把梯度归因做成可过滤百万级数据的实用工具，并用 SafeTulu 给出降低 GCG 攻击成功率的量化结果。
来源：arXiv · cs.AI · arxiv.org