跳到正文
arXiv · cs.AI· Chengwei Zhou·· 1 天前精选AI 评分54

Cord:面向掩码扩散语言模型的置信度锚定顺序残差解码

Cord: Confidence-Anchored Order Residual Decoding for Masked Diffusion Language Models

来源与原文

arXiv · cs.AI

作者:Chengwei Zhou

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.39372v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出 Cord,一种针对掩码扩散语言模型(dLLM)解码顺序的轻量提示条件策略,以置信度解码为参照,通过几何残差学习何时偏离它。在三个 dLLM 和五个推理、代码与约束满足基准上,平均任务成功率从置信度解码的 32.0% 提升至 48.2%;方法按 rollout 采样单个低维系数矩阵,用序列级奖励的 contextual-bandit 方式训练,仅增加 0.53M 可训练参数、无需额外 backbone 前向传播、推理延迟开销 5.39%。

推荐理由

论文给出跨三个 dLLM 和五个基准的解码顺序改进数据,附带可量化的开销成本,对关注扩散语言模型解码策略的人有参考价值。

来源:arXiv · cs.AI · arxiv.org