热点事件持续更新
涨落耗散定理被用于推导SGD噪声理论
1 篇报道1 个报道来源39 分钟前更新
先了解这件事
AI 综述
2026年10月28日，Liu Ziyin 转发自己2020年的论文，认为近期关于 edge-of-stability 的研究可以从理论物理中获益。该论文用涨落-耗散定理推导出：在非消失学习率区间，SGD 的学习率、Hessian 与梯度噪声之间存在直接联系。论文指出，由离散时间动力学产生的噪声呈畸变形状，且远大于连续时间理论的预测。该论文发表于 ICML 2021，arXiv 编号为 2012.03636。
AI 根据报道生成 · 31 分钟前更新
最新进展10月28日 16:28
Liu Ziyin 转发其2020年论文，指出离散时间SGD噪声远大于连续时间理论预测。报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- AGI Hunt物理学家旧论文重现：涨散定理可直接推出大学习率 SGD 噪声理论
Liu Ziyin 转发自己 2020 年的论文，认为近期 edge-of-stability 研究可从理论物理中获益。论文用涨落-耗散定理推导出非消失学习率区间 SGD 中学习率、Hessian 与梯度噪声的直接联系，指出离散时间动力学产生的噪声呈畸变形状、远大于连续时间理论的预测。该论文发表于 ICML 2021（arXiv:2012.03636）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。