跳到正文
arXiv · cs.CL· Liquan Liu·· 22 天前精选AI 评分54

AdaSpark:用在线学习调度树验证宽度的推测解码方法

AdaSpark: Adaptive DSpark with Online Learning for Tree Verification and N-gram Fill

来源与原文

arXiv · cs.CL

作者:Liquan Liu

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.05774v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

arXiv 论文 2610.05774 提出 AdaSpark,一种在服务过程中在线学习验证宽度与候选接受概率的 DSpark 树验证调度器,无需预先 profile、校准或扫描。

推荐理由

论文给出在线学习调度器在多个数据集和目标模型上的加速对比,无需预先 profile 或校准即可接近最优树宽。

来源:arXiv · cs.CL · arxiv.org