arXiv · cs.AI· Zixuan Liu·· 12 天前AI 评分34
LoopAhead：通过提前推测加速循环语言模型解码
LoopAhead: Speculating Ahead for Faster Decoding in Looped Language Models
来源与原文
arXiv · cs.AI
作者：Zixuan Liu
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.21594v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
LoopAhead 是一个面向 Looped Transformer 的推测解码框架，用轻量级 lookahead drafter（LAD）基于 early-loop 状态提前起草多个未来 token，并结合 deeper-loop 反馈决定草稿分支的继续或暂停，由全深度模型做最终决定。该框架相比自回归解码最高实现 7.82x 解码加速，同时保持目标模型的输出分布。
来源：arXiv · cs.AI · arxiv.org