arXiv · cs.AI· Anda Tang·· 21 小时前AI 评分28
UTA：通用训练自适应学习率衰减
UTA: Universal Training Adaptive Learning Rate Decay
来源与原文
arXiv · cs.AI
作者：Anda Tang
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.35113v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 UTA 学习率衰减方法，将 UBA 的理论框架扩展到 Adam 类优化器，把学习率衰减建模为闭环的形状与尺度问题，使其能随训练状态自适应调整。实验显示 UTA 在 LLaMA 60M 到 1B 语言模型及 ImageNet 上的 ResNet50、ViT-B 视觉模型中带来一致提升，且即插即用、开销可忽略。
来源：arXiv · cs.AI · arxiv.org