arXiv · cs.AI· Julien Roger·· 17 天前AI 评分36
面向平均奖励 Q-Learning 与 Q-Planning 的混合正则化方法研究
Mixing Regularization for Average-Reward $Q$-Learning and $Q$-Planning
来源与原文
arXiv · cs.AI
作者:Julien Roger
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.14988v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项强化学习研究提出在给定与奖励无关的 m 步混合策略时,通过向该混合策略正则化来控制学习策略的收缩与探索性质,并对可实例化多种正则化的 Q-Learning 算法给出有限时间分析。单步设置下其速率匹配 Q-iteration 与同步 Q-Learning 的最优已知速率,m 步混合下得到新速率;Q-Planning 变体中规划视野 H 在边界值偏差与样本复杂度间权衡。数值实验验证了强混合策略可改善收敛与探索,且理论能预测 α-散度族中各正则化器的收敛与偏差排序。
来源:arXiv · cs.AI · arxiv.org