arXiv · cs.AI· Kintan Saha·· 13 天前AI 评分27
平均奖励下带 Options 的 Q-learning 非渐近收敛性分析
Non-asymptotic Convergence of Average-reward Q-learning with Options
来源与原文
arXiv · cs.AI
作者:Kintan Saha
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.20347v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一篇 arXiv 论文研究了强化学习中平均奖励形式下带 options 的 Q-learning 算法的有限样本收敛性,覆盖 inter-option 与 intra-option 两种设定。作者证明两类多步 option Bellman 算子在 unichain 假设下满足 span 收缩,并提出同步估计器得到两种算法变体,首次给出均方意义下 $\tilde{O}(1/\text{iterations})$ 的收敛速率保证。
来源:arXiv · cs.AI · arxiv.org