arXiv · cs.CL· Jungseob Lee·· 24 天前精选AI 评分63
arXiv 论文提出预测并修复大语言模型合并坍塌的 PRISM 方法
Predicting and Repairing Merge Collapse in Large Language Models
来源与原文
arXiv · cs.CL
作者:Jungseob Lee
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.03199v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文(arXiv:2610.03199)提出用专家模型 task vector 的方差作为干扰度指标,在合并前预测合并坍塌,在 4 个模型家族的 22 个合并配置中,只有破坏性合并超过该评分阈值;对 14 次合并的预测有 12 次正确。
推荐理由
论文提出可在合并前预测模型合并坍塌的评分指标,并给出无需数据或调参的修复算子 PRISM,附十四次合并的预测验证。
来源:arXiv · cs.CL · arxiv.org