跳到正文
arXiv · cs.CL· Zixuan Xu·· 18 小时前AI 评分35

GPDPO:通过 Group Pareto-Dominance 策略优化从奖励冲突中学习

GPDPO: Learning from Reward Conflicts via Group Pareto-Dominance Policy Optimization

来源与原文

arXiv · cs.CL

作者:Zixuan Xu

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.35480v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者提出多奖励策略优化方法 GPDPO,从冲突过滤后的 rollout 中恢复成对监督信号,将样本响应间的 Pareto 支配关系转化为辅助偏好信号,与原策略目标联合优化,无需额外采样或奖励评估即可更有效复用 rollout。在 API-Bank 上跨多模型规模与奖励配置的实验显示,GPDPO 持续优于竞争性多奖励优化基线,并降低组相对与成对奖励冲突。代码将开源发布。

来源:arXiv · cs.CL · arxiv.org