跳到正文
arXiv · cs.AI· Kwanyoung Kim·· 16 小时前AI 评分39

VaLoP:面向奖励引导扩散模型的价值梯度前瞻与回拉方法

VaLoP: Value Gradient Lookahead and Pullback for Reward-Guided Diffusion

来源与原文

arXiv · cs.AI

作者:Kwanyoung Kim

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.35607v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出 VaLoP,一种用于奖励引导扩散模型的价值梯度估计方法:将价值评估前移一个采样步以降低高噪声下的不确定性,并通过一次 vector-Jacobian product 计算生成器修正项。其轻量版 VaLoP-Fast 用小 head 摊销该修正,单一奖励训练即可复用于其他奖励,成本接近 learned-value guidance。二者在多种模型、奖励和 benchmark 上优于现有价值梯度引导,VaLoP-Fast 在 LIBERO 和 RoboCasa 机器人策略评测中取得最高成功率。

来源:arXiv · cs.AI · arxiv.org