arXiv · cs.AI· Emile Anand·· 6 天前AI 评分43
自适应多 Token 预测（AMTP）：推测视野应该选多远？
Adaptive Multi-Token Prediction: How far should we go?
来源与原文
arXiv · cs.AI
作者：Emile Anand
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.28619v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 Adaptive Multi-Token Prediction（AMTP），将多 token 预测的视野选择建模为在线控制问题，通过验证反馈动态选择最优推测长度，无需重训练且不改动验证器。在基于 Llama-3.1-8B-Instruct 与 Medusa heads、Meta MTP 模型、Qwen3-4B-Inst-2507-MTP 的五组组合上，经 AIME 2025 和 GSM8K 评测，AMTP 解码最高加速 4.1x，在 10 个设置中的 8 个持平或超越固定窗口，吞吐最高提升 10%。
来源：arXiv · cs.AI · arxiv.org