arXiv · cs.AI· Kwanyoung Kim·· 16 小时前AI 评分39
VaLoP:面向奖励引导扩散模型的价值梯度前瞻与回拉方法
VaLoP: Value Gradient Lookahead and Pullback for Reward-Guided Diffusion
来源与原文
arXiv · cs.AI
作者:Kwanyoung Kim
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.35607v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 VaLoP,一种用于奖励引导扩散模型的价值梯度估计方法:将价值评估前移一个采样步以降低高噪声下的不确定性,并通过一次 vector-Jacobian product 计算生成器修正项。其轻量版 VaLoP-Fast 用小 head 摊销该修正,单一奖励训练即可复用于其他奖励,成本接近 learned-value guidance。二者在多种模型、奖励和 benchmark 上优于现有价值梯度引导,VaLoP-Fast 在 LIBERO 和 RoboCasa 机器人策略评测中取得最高成功率。
来源:arXiv · cs.AI · arxiv.org