arXiv · cs.CL· Qiyao Ma·· 14 小时前精选AI 评分56
ShallowDefend 论文提出利用浅层安全对齐构建多轮防御框架
ShallowDefend: Harnessing Shallow Safety Alignment for Multi-Turn Defender
来源与原文
arXiv · cs.CL
作者：Qiyao Ma
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.40627v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 ShallowDefend（arXiv:2610.40627）提出 Assess→Decide→Respond 框架，让防御者先评估用户意图并给出可解析的显式安全决策，再据此生成回复，决策承诺通过强化学习在 payload 轮训练。该框架支持自验证规则奖励，无需 judge 和标注，也兼容 LLM-as-judge 的分级决策奖励。在两个模型家族、覆盖安全、效用与有用性的十四个基准上，该防御在受控对比中取得最强的多轮安全性，效用基本保留，有用性有适度代价；per-token KL 分析与干预探针表明训练效应集中在决定回复轨迹的短暂斟酌阶段。
推荐理由
论文把安全对齐集中在开头几个 token 的浅层性反过来用作防御点，给出 Assess、Decide、Respond 框架和 14 个基准的对比结果。
来源：arXiv · cs.CL · arxiv.org