arXiv · cs.AI· Sitong Wu·· 14 天前AI 评分46
无需训练的奖励归因方法解锁 token 级奖励信号
Unlocking Token Rewards via Training-Free Reward Attribution
来源与原文
arXiv · cs.AI
作者:Sitong Wu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.18704v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
该 arXiv 论文提出一种免训练方法,通过一阶泰勒近似的梯度估计器将过程奖励归因到单个 token,仅需一次前向与反向传播。得到的 P2T token 级奖励可使标准 RL 算法实现精确 credit assignment,无需额外训练奖励模型,在 Qwen2.5-VL-7B-Instruct 的 MathVista 上比 outcome reward 高 4.9%,在 Qwen2.5-Math-7B 的 AIME24 上高 11.5%。
来源:arXiv · cs.AI · arxiv.org