腾讯提出DSpine投机解码草稿器
热点事件持续更新
腾讯提出DSpine投机解码草稿器
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
腾讯提出 DSpine,一种用于投机解码的草稿模型:在骨干网络每一层注入相邻因果条件,把前驱位置的预测特征写入后继位置,使因果条件链沿网络深度展开,同时并行更新所有位置。腾讯称,在 Qwen3-4B 和 Qwen3-8B 的七个数学、代码与对话基准上,DSpine 在两个温度下均取得最长接受长度;Qwen3-8B 温度 0 时七基准均值从 DFlash 的 3.77 升至 4.82(+27.8%)。 腾讯称,在 SGLang 服务测试中,DSpine 的平均吞吐比 DFlash 高 23.3%;融合内核与转移缓存使其在 SGLang 内并行高效执行。
AI 根据报道生成 · 47 分钟前更新
最新进展11月7日 23:48
腾讯提出 DSpine:面向投机解码的相邻因果注入,并行草稿、按深度条件化报道时间线
沿着报道,了解事件的不同侧面。
11月7日
- Reddit · r/LocalLLaMA腾讯提出 DSpine:面向投机解码的相邻因果注入,并行草稿、按深度条件化
腾讯提出 DSpine,一种在骨干网络每一层注入相邻因果条件的投机解码草稿模型,让前驱预测特征写入后继位置,从而在并行更新所有位置的同时沿网络深度展开因果条件链。在 Qwen3-4B 和 Qwen3-8B 的七个数学、代码与对话基准上,DSpine 在两个温度下均取得最长接受长度;Qwen3-8B 温度 0 时七基准均值从 DFlash 的 3.77 升至 4.82(+27.8%)。SGLang 服务测试中平均吞吐比 DFlash 高 23.3%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。