arXiv · cs.AI· Parul Gupta·· 6 天前AI 评分38
HMDLM：层级掩码扩散语言模型
Hierarchical Masked Diffusion Language Models
来源与原文
arXiv · cs.AI
作者：Parul Gupta
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.29255v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出层级掩码扩散语言模型（HMDLM），为每个 token 位置引入层级标注，通过两阶段生成让高优先级位置优先揭示，同时保持完全并行解码，无需额外标注。在 LM1B 上困惑度比 ADLM 降低超过 1.5 点，WikiHow 上最高降低 4.4 点（对 ADLM）、7 点（对 MDLM），LLM judge 偏好其生成结果超过基线 2 倍；Sudoku 多步推理任务上准确率最高提升 8.6% 绝对点。
来源：arXiv · cs.AI · arxiv.org