跳到正文
热点事件持续更新

提出鲁棒强化学习下的高效异步Q学习算法及样本复杂度界

1 篇报道1 个报道来源15 小时前更新

先了解这件事

AI 综述

Yuchen Jiao 等在 arXiv 提交论文(arXiv:2610.35656),提出一种面向鲁棒 MDP(RMDP)的异步 Q-learning 算法,用于解决鲁棒强化学习中 model-free 方法的缺失,并给出了其样本复杂度理论保证。 在 γ 折扣无限时域设定下,该算法仅用单条 Markovian 样本轨迹即可对最优 Q 函数实现逐元素 ε-逼近,样本复杂度受 1/(μ_min·ε²·(1-γ)³·max{1-γ,σ}) + t_mix/(μ_min·(1-γ)) 约束(不含对数因子),达到近极小极大最优,仅多出 1/(1-γ) 因子。作者称该结果相比现有边界显著改进,适用于 TV 距离不确定集(不确定度 σ)下的 sim-to-real 鲁棒性需求。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv · cs.AI
    面向鲁棒强化学习的可证高效 Q-learning 算法

    该研究提出一种用于鲁棒强化学习的异步 Q-learning 算法,解决基于鲁棒 MDP(RMDP)的 model-free 方法缺失问题。在 γ 折扣无限时域设定下,仅用单条 Markovian 样本轨迹,算法对最优 Q 函数实现逐元素 ε-逼近的样本复杂度受 $\frac{1}{\mu_{\min}\varepsilon^2(1-\gamma)^3\max\{1-\gamma,\sigma\}} + \frac{t_{\text{mix}}}{\mu_{\min}(1-\gamma)}$ 约束(不含对数因子),达到近极小极大最优,仅多出 $\frac{1}{1-\gamma}$ 因子。相比现有边界显著改进,适用于 TV 距离不确定集(不确定度 σ)下的真实环境 sim-to-real 鲁棒性需求。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。