arXiv · cs.CL· Jeremy Canale·· 21 天前AI 评分50
arXiv 论文提出对齐缩放定律框架并给出首批预注册实测结果
Toward Alignment Scaling Laws: A Framework and First Preregistered Measurements
来源与原文
arXiv · cs.CL
作者：Jeremy Canale
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.08540v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Jeremy Canale 在 arXiv 发布论文，将对齐负担建模为 B_r(N)=a_rN^alpha_r 的幂律框架，指数小于 1 表示规模有助于对齐、大于 1 则积累对齐债务。预注册实测包括：Pythia 分类器的对抗训练数据显示将攻击成功率压到 10% 以下的算力随 N^0.60 增长；Qwen2.5 0.5B-72B 上真实性与 stated dispositions 的指数为 -0.05 和 0.48，sycophancy 和预置后门未能判定，其中后门在触发器已知时可快速移除，但在五个规模中的四个上能在盲安全训练后存活。论文未对当前前沿模型属于哪种区间下结论。
来源：arXiv · cs.CL · arxiv.org