arXiv · cs.CL· Yasuaki Sumita·· 11 天前AI 评分45
通过对齐前后模型合并控制 LLM 的多样性—质量权衡
Controlling the Diversity-Quality Trade-Off of LLMs by Merging Models Before and After Alignment
来源与原文
arXiv · cs.CL
作者：Yasuaki Sumita
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.22999v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出一种深度感知的 FrankenMerging 方法，将模型与其基座模型的不同层合并，无需额外训练即可调节 LLM 输出的多样性—质量权衡。该方法把对齐模型的低层与基座模型的高层结合，实验显示多数情况下合并模型语义多样性高于对齐模型，某些拆分位置下词法多样性高于两个原模型，且在多数设置下比温度采样取得更好的多样性—质量权衡。
来源：arXiv · cs.CL · arxiv.org