arXiv · cs.AI· Keuntae Kim·· 21 天前精选AI 评分60
arXiv 论文提出气球效应:封禁一个输出通道后隐藏特质会转移到别的通道
A balloon effect: ban one channel and a hidden trait finds another
来源与原文
arXiv · cs.AI
作者:Keuntae Kim
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.02509v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文(arXiv:2611.02509)发现,用学生模型蒸馏教师模型输出时的 subliminal learning 会传递输出中从未提及的隐藏特质,逐一封禁特质的表现 token 并不能消除它,特质会转移到格式仍允许的位置,作者称之为气球效应。实验覆盖偏好链和名字链两个压力测试、两个模型、六种输出格式和 16 个特质,并在定位到将特质写入输出的回路后,对该回路进行修补,使两条链中断、显性名字泄漏大幅减少、传给学生的特质减半,而同等数量的随机 head 无此效果。
推荐理由
论文用两个模型、六种输出格式和 16 个特质的实验说明封禁表面 token 无法阻止特质迁移,并给出修补写入回路这条干预路径。
来源:arXiv · cs.AI · arxiv.org