热点事件持续更新

LinMix 论文提出顶点采样数据混合方法

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Hubert Baniecki 等在 arXiv 发布 LinMix 论文，将预训练数据混合建模为线性域归因问题，通过 capped simplex 顶点采样生成混合方案，每个域要么达到上限要么不出现，无需超参数调优或候选混合搜索。论文报告的预训练实验显示：在 1B 参数 OLMo2 和 4B Qwen3.5 模型上，LinMix 在 MBPP 上相对提升 46%、GSM8K 上提升 14%，在 288 个细粒度域时平均基准精度比最佳非线性基线高 11%，并在推理、代码和数学基准上优于基于 Dirichlet 的数据混合方法。该工作将在 NeurIPS 2026 Attributing Model Behavior at Scale 研讨会上发表。

AI 根据报道生成 · 1 小时前更新

最新进展10月27日 23:14

LinMix：将数据混合视为线性域归因问题

报道时间线

沿着报道，了解事件的不同侧面。

10月27日

23:14
arXiv · cs.CL
LinMix：将数据混合视为线性域归因问题
LinMix 是一种新的预训练数据混合方法，将数据混合建模为域归因问题，通过 capped simplex 顶点采样实现可解释的线性回归，无需超参数调优或候选混合搜索。在 1B 参数 OLMo2 和 4B Qwen3.5 的预训练实验中，LinMix 在 MBPP 上相对提升 46%，在 GSM8K 上提升 14%；在 288 个细粒度域时，平均基准精度比最佳非线性基线高 11%。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。