arXiv · cs.CL· Jihao Zhao·· 13 天前AI 评分47
TreeSpark：为推测解码学习“可验证的”草稿树
TreeSpark: Learning to Draft the Trees You Verify for Speculative Decoding
来源与原文
arXiv · cs.CL
作者：Jihao Zhao
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.20175v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
TreeSpark 是一个扩展 DSpark 半自回归架构的推测解码训练与推理框架，通过单次 backbone 前向构建父节点条件候选树，并用 survival NLL 与 capped coverage hinge 两个目标监督树的扩展、剪枝与打包，无需额外 target 前向。在 Qwen3-4B 与 Qwen3-8B 上的九个通用基准和六个写作域评测中，TreeSpark 较 DSpark 将平均接受长度提升 23.4%–31.6%，单请求吞吐提升 15.1%–25.0%，批量 Qwen3-4B 吞吐提升 12.6%–17.2%。
来源：arXiv · cs.CL · arxiv.org