Cord解码策略声称提升dLLM任务成功率至48.2%

Chengwei Zhou在arXiv发布论文，提出面向掩码扩散语言模型（dLLM）的解码顺序策略Cord。该策略以置信度解码为参照，通过几何残差学习何时偏离参照顺序。论文称，在三个dLLM和五个推理、代码与约束满足基准上，平均任务成功率从置信度解码的32.0%提升至48.2%。 按论文描述，Cord按rollout采样单个低维系数矩阵，用序列级奖励以contextual-bandit方式训练，仅增加0.53M可训练参数，无需额外backbone前向传播，推理延迟开销5.39%。上述数字均来自论文自述，尚属论文中的说法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。