arXiv · cs.CL· Liquan Liu·· 22 天前精选AI 评分54
AdaSpark:用在线学习调度树验证宽度的推测解码方法
AdaSpark: Adaptive DSpark with Online Learning for Tree Verification and N-gram Fill
来源与原文
arXiv · cs.CL
作者:Liquan Liu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.05774v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 2610.05774 提出 AdaSpark,一种在服务过程中在线学习验证宽度与候选接受概率的 DSpark 树验证调度器,无需预先 profile、校准或扫描。
推荐理由
论文给出在线学习调度器在多个数据集和目标模型上的加速对比,无需预先 profile 或校准即可接近最优树宽。
来源:arXiv · cs.CL · arxiv.org