SpecCTMC:扩散语言模型的精确投机采样
热点事件持续更新
SpecCTMC:扩散语言模型的精确投机采样
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
Siva Rajesh Kasa 提出并验证了 SpecCTMC,一种无需训练、无需独立草稿模型的投机采样器,用于加速掩码扩散语言模型的连续时间马尔可夫链采样。它复用已有模型预测提出连续 token 更新并并行评估中间状态,经精确接受与修正,论文称可保持事件时间、生成顺序与 token 值的联合分布,不引入时间离散化或并行解码的额外分解误差。 在 LLaDA-8B-Instruct 和 Dream-v0-Instruct-7B 上跨五个 benchmark,顺序模型评估次数比直接连续时间采样减少 1.73–4.38 倍,同时保持参考采样分布。代码已开源。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 01:41
SpecCTMC:扩散语言模型连续时间马尔可夫链的精确投机模拟报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- arXiv · cs.CLSpecCTMC:扩散语言模型连续时间马尔可夫链的精确投机模拟
SpecCTMC 是一种无需训练、无需独立草稿模型的投机采样器,用于加速扩散语言模型的连续时间精确采样。它复用已有模型预测提出连续 token 更新并并行评估中间状态,经精确接受与修正,证明可保持事件时间、生成顺序与 token 值的联合分布,不引入时间离散化或并行解码的额外分解误差。在 LLaDA-8B-Instruct 和 Dream-v0-Instruct-7B 上跨五个 benchmark,顺序模型评估次数比直接连续时间采样减少 1.73-4.38 倍,同时保持参考采样分布,代码已开源。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 711月6日 14:00
- 近 24 小时变化
- –
02468
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。