arXiv · cs.AI· Michał Burzyński·· 1 天前精选AI 评分59
Curriculum of Models：通过课程式训练目标模型自动发现越狱提示词
Discovering Jailbreaks via Curriculum of Models
来源与原文
arXiv · cs.AI
作者：Michał Burzyński
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.38833v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 Curriculum of Models（CoM），让 investigator 模型按从易到难的顺序针对一系列修改版目标模型训练，逐步过渡到原始目标，以解决对齐模型几乎全部拒绝导致的稀疏奖励问题。在 gemma-4-31b-it 和 gpt-oss-120b 上针对 CBRN、爆炸物和毒品等行为评测，单行为场景 CoM 比 PRBO 和直接训练更可靠地发现越狱；多行为训练时 CoM 可泛化到 held-out 行为，但 PRBO 成功率更高。
推荐理由
论文提出了一个缓解稀疏奖励的越狱发现方法，并在两个开源模型上与 PRBO 基线做了对照实验，安全研究者可参考其课程式训练思路。
来源：arXiv · cs.AI · arxiv.org