arXiv · cs.AI· Anshul Nayak·· 12 天前AI 评分29
基于推理标签的人类奖励建模用于偏好强化学习
Reason-guided Human Reward Modeling for Preference-based Reinforcement Learning
来源与原文
arXiv · cs.AI
作者：Anshul Nayak
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.23550v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一篇 arXiv 论文提出推理引导的偏好强化学习（PbRL）框架，从轨迹级反馈中学习人类奖励模型。该框架在偏好标签之外引入解释偏好原因的 reason tags，为学习与人类对齐的奖励提供额外监督，并提升策略可解释性。学习到的人类奖励与环境奖励结合用于策略优化，使智能体在提升任务表现的同时产生更可解释、更符合人类偏好的行为。
来源：arXiv · cs.AI · arxiv.org