arXiv · cs.CL· Zixuan Xu·· 18 小时前AI 评分35
GPDPO:通过 Group Pareto-Dominance 策略优化从奖励冲突中学习
GPDPO: Learning from Reward Conflicts via Group Pareto-Dominance Policy Optimization
来源与原文
arXiv · cs.CL
作者:Zixuan Xu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.35480v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出多奖励策略优化方法 GPDPO,从冲突过滤后的 rollout 中恢复成对监督信号,将样本响应间的 Pareto 支配关系转化为辅助偏好信号,与原策略目标联合优化,无需额外采样或奖励评估即可更有效复用 rollout。在 API-Bank 上跨多模型规模与奖励配置的实验显示,GPDPO 持续优于竞争性多奖励优化基线,并降低组相对与成对奖励冲突。代码将开源发布。
来源:arXiv · cs.CL · arxiv.org