arXiv · cs.AI· Faissal Izermine·· 20 天前AI 评分46
Unrolled Flow Models 如何用于推理
Unrolled Flow Models for Reasoning
来源与原文
arXiv · cs.AI
作者:Faissal Izermine
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.09759v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究证明,两层 Transformer 参数化的 flow 可解决图可达性问题,且所需积分步数随目标距离增加;标准 flow 语言模型却难以从更多积分步中获益,原因是各时间点被独立监督。研究改为在 [0,1] 随机子区间上训练模型自身的 latent rollout、仅在端点解码,在 ProsQA 上准确率达 97%,Sudoku 与 Maze 等任务通过将 latent 收缩到球面上显著超越参数量三倍以上的基线,配合无参数选择分数的多 rollout 采样可进一步提升性能。
来源:arXiv · cs.AI · arxiv.org