跳到正文
arXiv · cs.AI· Neil Walton·· 14 天前AI 评分33

基于随机微变的率转移方法:分析随机梯度下降的收敛速率

A Rate Transfer Method: Convergence Rates in Stochastic Gradient Descent via Stochastic Calculus

来源与原文

arXiv · cs.AI

作者:Neil Walton

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.18739v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出一种率转移方法,将关联随机微分方程(SDE)的有限时间 Lyapunov 估计转化为随机梯度算法的有限时间收敛界。在一般的矩条件与光滑性假设下,随机梯度法的收敛分析可归结为验证 SDE 的 Lyapunov 生成元不等式这一微积分论证。该方法既复现了经典随机梯度方法的已有收敛速率,也为新优化算法的收敛率证明提供了途径。

来源:arXiv · cs.AI · arxiv.org