开发者开源LLM持续遗忘研究仓库,提出RAFG与RASP方案
先了解这件事
DevulapalliTharun 在 GitHub 开源 persistent-llm-unlearning 仓库,这是一个 M.Tech 毕业项目研究工作区,研究 LLM 的定向知识遗忘在后续合法推理微调后是否仍保持有效。仓库目前只有项目提案和实验计划,作者明确说明尚无实验结果或已完成的训练 checkpoint,提案不能作为方法有效的证明。 仓库提出两种候选防护方案:被动式的 RAFG,监测被遗忘的答案是否重新变得易预测,必要时触发短期纠正性遗忘;预防式的 RASP,估计对遗忘目标敏感的 LoRA 模块并选择性约束其更新。实验流程为基座模型经监督微调得到 M1,再用 Gradient Difference 遗忘得到 M2,基座模型为 Qwen3-0.6B,训练在 Kaggle 上进行(Colab 备选),模型产物存于私有 Hugging Face 仓库。
AI 根据报道生成 · 13 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- GitHub · 灵魂体仓库persistent-llm-unlearning:研究 LLM 遗忘知识能否抵御后续推理微调的 M.Tech 毕业项目仓库
DevulapalliTharun 在 GitHub 开源 persistent-llm-unlearning 研究工作区,探索 LLM 的定向知识遗忘在后续合法推理微调后是否仍保持有效,当前仅有项目提案与实验计划,尚无实验结果或训练 checkpoint。仓库提出两种候选防护方案:被动式的 RAFG(监测被遗忘答案是否变得易预测,必要时触发短期纠正性遗忘)与预防式的 RASP(估计对遗忘目标敏感的 LoRA 模块并选择性约束)。工作流从 M0 基座模型经监督微调到 M1、再经 Gradient Difference 遗忘到 M2,训练在 Kaggle 上进行,Colab 作为备选,模型产物存于私有 Hugging Face 仓库。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 911月5日 01:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。