arXiv · cs.AI· Jingyu Zhang·· 21 天前精选AI 评分62
SIGMA 提出基于 Model Spec 的对齐自我改进训练流程
SIGMA: Self-Improving Alignment Generalization from a Model Spec
来源与原文
arXiv · cs.AI
作者：Jingyu Zhang
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.07935v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 SIGMA，一种仅需 Model Spec 即可让模型自我改进安全对齐的数据生成与训练流程，通过 spec 引导任务合成和基于 rubric 的强化学习完成。尽管只在单轮对话数据上训练，SIGMA 在多轮智能体环境中将 AgentHarm 有害性从 22.6 降至 14.8，Agentic Misalignment 从 79.1 降至 3.8，优于 Deliberative Alignment 和 Constitutional AI 基线，且保留通用能力。
推荐理由
原文给出了仅凭 Model Spec 进行对齐自我改进的流程和 AgentHarm、Agentic Misalignment 前后数字，可与外部监督方法的局限对照阅读。
来源：arXiv · cs.AI · arxiv.org