跳到正文
我的
Reddit · r/LocalLLaMA· /u/pmttyji·· 2 小时前AI 评分44

D3D:面向异步投机解码的解耦扩散草稿模型

[Paper] D3D: Decoupled Diffusion Drafting for Asynchronous Speculative Decoding

来源与原文

Reddit · r/LocalLLaMA

作者:/u/pmttyji

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xq1y0y/paper_d3d_decoupled_diffusion_drafting_for/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

D3D 是一种独立扩散草稿模型,通过块级去噪与辅助自回归监督摆脱对目标模型隐藏状态的依赖,可在验证阶段一次性打包生成后续块,实现异步投机解码。以 Qwen3-8B 和 Qwen3-32B 为目标,D3D 在七个基准上平均取得 5.00× 和 5.71× 解码加速,DFlash 分别为 4.03× 和 3.67×;Qwen3-32B 在 GSM8K 上加速达 7.48×。按接受长度影响剪枝后,36 层中移除 5 层仍保留超过 99% 的平均接受长度,并放出六个 Qwen3 衍生草稿检查点。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。