D3D 解耦扩散草稿实现异步投机解码

Reddit 用户 pmttyji 发布论文与模型仓库，提出 D3D：一种独立扩散草稿模型，通过块级去噪与辅助自回归监督摆脱对目标模型隐藏状态的依赖，可在验证阶段一次性打包生成后续块，实现异步投机解码。 以 Qwen3-8B 和 Qwen3-32B 为目标，D3D 在七个基准上平均取得 5.00× 和 5.71× 解码加速，DFlash 分别为 4.03× 和 3.67×；Qwen3-32B 在 GSM8K 上加速达 7.48×。按接受长度影响剪枝后，36 层中移除 5 层仍保留超过 99% 的平均接受长度。 发布的六个 Qwen3 衍生检查点是草稿模型，并非其目标模型的替代品；所有语料使用 Open-PerfectBlend 提示。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。