跳到正文
我的
arXiv · cs.CL· Siva Rajesh Kasa·· 15 小时前AI 评分32

SpecCTMC:扩散语言模型连续时间马尔可夫链的精确投机模拟

SpecCTMC: Exact Speculative Simulation of Diffusion Language Model Continuous-Time Markov Chains

来源与原文

arXiv · cs.CL

作者:Siva Rajesh Kasa

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.08362v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

SpecCTMC 是一种无需训练、无需独立草稿模型的投机采样器,用于加速扩散语言模型的连续时间精确采样。它复用已有模型预测提出连续 token 更新并并行评估中间状态,经精确接受与修正,证明可保持事件时间、生成顺序与 token 值的联合分布,不引入时间离散化或并行解码的额外分解误差。在 LLaDA-8B-Instruct 和 Dream-v0-Instruct-7B 上跨五个 benchmark,顺序模型评估次数比直接连续时间采样减少 1.73-4.38 倍,同时保持参考采样分布,代码已开源。

来源:arXiv · cs.CL · arxiv.org

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。