arXiv · cs.CL· Hubert Baniecki·· 14 小时前AI 评分45
LinMix：将数据混合视为线性域归因问题
LinMix: Data Mixing as Linear Domain Attribution
来源与原文
arXiv · cs.CL
作者：Hubert Baniecki
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.37390v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
LinMix 是一种新的预训练数据混合方法，将数据混合建模为域归因问题，通过 capped simplex 顶点采样实现可解释的线性回归，无需超参数调优或候选混合搜索。在 1B 参数 OLMo2 和 4B Qwen3.5 的预训练实验中，LinMix 在 MBPP 上相对提升 46%，在 GSM8K 上提升 14%；在 288 个细粒度域时，平均基准精度比最佳非线性基线高 11%。
来源：arXiv · cs.CL · arxiv.org