GitHub · 去对齐工具与仓库·· 21 天前精选AI 评分64
sparkdoc 开源 LFA 持续领域微调工具,微调新领域同时保留模型原有能力
sparkdoc/lfa-anchoring
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/sparkdoc/lfa-anchoring
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
sparkdoc 在 GitHub 发布 Layerwise Function Anchoring(LFA)工具,通过估计各子模块隐状态分布 p(h) 并在微调时惩罚输出偏移,使模型适配新领域的同时不依赖旧数据回放或权重冻结来保留原有能力。工具完全本地运行于单张 CUDA 卡,无需 API key,为 Qwen3-0.6B 和 Qwen3-1.7B 提供预计算 artifact(132 MB / 265 MB,经哈希校验下载),输出可直接用 AutoModelForCausalLM.from_pretrained 加载的 Hugging Face checkpoint。
推荐理由
原文给出完整命令流程和双轴评测数据,还用对照实验区分锚定效果与训练剂量,读者可按需复现到自己的语料。
来源:GitHub · 去对齐工具与仓库 · github.com