论文提出 Curriculum of Models 自动越狱发现方法
热点事件观察中
论文提出 Curriculum of Models 自动越狱发现方法
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Michał Burzyński 发布论文提出 Curriculum of Models（CoM），一种基于强化学习的自动越狱发现方法：让 investigator 模型按从易到难的顺序对抗一系列修改版目标模型训练，逐步过渡到原始目标，以缓解对齐模型几乎全部拒绝导致的稀疏奖励问题。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 04:23
Curriculum of Models：通过课程式训练目标模型自动发现越狱提示词报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- arXiv · cs.AI精选Curriculum of Models：通过课程式训练目标模型自动发现越狱提示词
论文提出 Curriculum of Models（CoM），让 investigator 模型按从易到难的顺序针对一系列修改版目标模型训练，逐步过渡到原始目标，以解决对齐模型几乎全部拒绝导致的稀疏奖励问题。在 gemma-4-31b-it 和 gpt-oss-120b 上针对 CBRN、爆炸物和毒品等行为评测，单行为场景 CoM 比 PRBO 和直接训练更可靠地发现越狱；多行为训练时 CoM 可泛化到 held-out 行为，但 PRBO 成功率更高。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。