Reddit · r/LocalLLaMA· /u/AdventurousTwo6445·· 20 天前精选AI 评分70
闭式轨迹权重手术：将 Qwen 3.5 4B 能力迁移到 0.8B 而无需数十亿 token
Closed-form trajectory weight surgery: transferring 4B capabilities into 0.8B without billions of tokens (why middle layers break, and how 4 anchor blocks fixed it)
来源与原文
Reddit · r/LocalLLaMA
作者：/u/AdventurousTwo6445
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wyx2w9/closedform_trajectory_weight_surgery_transferring/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者提出一种跳过反向传播的闭式轨迹匹配方法，用少量校准提示词和正则化最小二乘直接求解学生模型 MLP 权重，将 Qwen 3.5 4B 能力迁移到 0.8B。
推荐理由
作者给出跳过反向传播的闭式权重迁移方法，并附上失败分析与修复细节，代码和权重均已开源可复现。
来源：Reddit · r/LocalLLaMA · reddit.com