arXiv · cs.CL· Saiteja Utpala·· 6 天前AI 评分42
循环均匀扩散语言模型研究：训练 FLOP 最多降低 3.3 倍
Looped Uniform Diffusion Language Models
来源与原文
arXiv · cs.CL
作者：Saiteja Utpala
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.30066v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者将循环技术引入均匀扩散语言模型（UDLM），在保持训练目标和采样器不变的前提下显著提升训练效率：达到非循环模型约 0.5 万亿 token 的验证 NLL，在 OpenWebText 上最多节省 2.8 倍训练 FLOPs，FineWeb-Edu 上为 3.3 倍。相同 NFE 预算下，循环 UDLM 的生成困惑度最多降低 9.8%。训练时更频繁采样较小循环次数，可在不损失精度的前提下减少 12% 的推理循环。
来源：arXiv · cs.CL · arxiv.org