跳到正文
原文
AGI Hunt· dianarycai·· 2 小时前AI 评分40

SoftServe 拟牛顿优化法问世,可扩展至超大神经网络

SoftServe 拟牛顿优化法问世 可扩展至超大神经网络

AI 导读

Diana Cai、Julia Gower 等人发布预印本 SoftServe,提出一族面向现代深度学习的可扩展拟牛顿优化方法,可在 GPU 上运行并扩展到超大神经网络。作者称该方法在病态科学计算任务上胜过 Adam 与 Muon,其更新规则基于二次矩阵方程的解,延续了团队 ICML 2024 论文 Batch-and-Match 的思路。

来源:AGI Hunt · agihunt.info