arXiv Artificial Intelligence· Neil Walton·· 18 小时前AI 评分22
一种速率迁移方法:通过随机微积分推导随机梯度下降的收敛速率
A Rate Transfer Method: Convergence Rates in Stochastic Gradient Descent via Stochastic Calculus
AI 导读
研究者提出一种速率迁移方法,可将关联随机微分方程(SDE)的有限时间 Lyapunov 估计转化为随机梯度算法的有限时间收敛界。在通用矩条件与光滑性条件下,随机梯度法的收敛分析被简化为验证 SDE 的 Lyapunov 生成元不等式的微积分论证。该方法能复现经典随机梯度方法的已知收敛速率,并为新优化算法通过其关联 SDE 的微积分论证建立收敛速率提供了途径。
来源:arXiv Artificial Intelligence · arxiv.org