arXiv · cs.CL· Arvid Frydenlund·· 4 天前AI 评分33
Multi-Token Prediction 与替代 Tokenization 助力语言模型大规模学习潜在多跳图搜索
Multi-Token Prediction and Alternative Tokenization Improve Learning Latent Multi-Hop Graph Search at Scale
来源与原文
arXiv · cs.CL
作者：Arvid Frydenlund
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.31439v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究指出，语言模型难以在图上从起点 s 生成到终点 t 的最短路径，原因在于监督信号与 tokenization 两方面。作者从理论和实验上证明多-token 预测（MTP）有效且其收益与图拓扑无关，并引入替代 tokenization，证明两者正交。结合这些方法，模型突破了此前工作的规模瓶颈，能在远超以往限制的图规模上稳定求解该任务。
来源：arXiv · cs.CL · arxiv.org