arXiv · cs.CL· Shih-Cheng Huang·· 21 天前AI 评分47
αTransfer：通过系数迁移实现高效模型合并
$α$Transfer: Coefficient Transfer for Efficient Model Merging
来源与原文
arXiv · cs.CL
作者：Shih-Cheng Huang
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.07819v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究发现同一模型族内不同规模的模型在合并系数上的性能分布高度一致，据此提出 αTransfer 方法：在小代理模型上搜索最优合并系数后直接迁移到更大目标模型。该方法在 vision transformers 上实现 6× 加速和 70% 内存降低，在大语言模型上实现 20× 加速和 85% 内存降低，且性能相当。
来源：arXiv · cs.CL · arxiv.org