FASD 方法解耦多模态大模型遗忘中的知识遗忘与拒答学习
arXiv 论文提出 Forget-Aware Self-Distillation(FASD),针对多模态大模型遗忘评估只看停止输出导致的两类问题:抑制目标知识引发幻觉、拒答训练只是改变表面行为。FASD 分为行为与知识两条通道,前者从忽略提示的模型副本蒸馏拒答行为并掩蔽 target tokens,后者直接抑制 ground-truth 答案片段,实现"诚实无知":模型真正遗忘目标知识且能识别自身知识边界,同时保留数据性能。代码和数据将在论文发表后发布。