AGI Hunt· dianarycai·· 2 小时前AI 评分40
SoftServe 拟牛顿优化法问世,可扩展至超大神经网络
SoftServe 拟牛顿优化法问世 可扩展至超大神经网络
AI 导读
Diana Cai、Julia Gower 等人发布预印本 SoftServe,提出一族面向现代深度学习的可扩展拟牛顿优化方法,可在 GPU 上运行并扩展到超大神经网络。作者称该方法在病态科学计算任务上胜过 Adam 与 Muon,其更新规则基于二次矩阵方程的解,延续了团队 ICML 2024 论文 Batch-and-Match 的思路。
来源:AGI Hunt · agihunt.info