arXiv · cs.CL· Vedant Palit·· 20 天前精选AI 评分55
arXiv 论文解析微调中的伪遗忘：共享位移可逆，个体侵蚀才致命
When Forgetting is not Catastrophic: On the Mechanics of Spurious Forgetting
来源与原文
arXiv · cs.CL
作者：Vedant Palit
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.08718v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv:2610.08718 研究微调中语言模型的伪遗忘（spurious forgetting），发现被遗忘的旧知识往往仍存储在模型中且可恢复。作者用最小联想记忆模型复现遗忘动态，指出其依赖共享结构的键、集中新值和网络归一化三个要素：微调使旧表示沿共同方向整体移动，暂时隐藏旧事实但保留其相对几何；新数据只把旧记忆一起移动时遗忘可逆，逐事实改变累积时才造成永久侵蚀。实验显示减去共同位移可消除 Transformer 的崩溃，从权重更新中移除单一方向可在预训练语言模型中恢复旧事实。
推荐理由
论文把微调遗忘拆成可逆的共同位移和不可逆的个体侵蚀两部分，并给出恢复旧知识的干预方法。
来源：arXiv · cs.CL · arxiv.org