跳到正文
原文
AGI Hunt· CSProfKGD·· 3 小时前AI 评分30

CS 教授 CSProfKGD:3D 损失曲面可视化误导优化认知

CS 教授称 3D 损失曲面可视化误导优化认知

AI 导读

机器学习教授 CSProfKGD 在讨论梯度下降教学时称,从简单凸曲面讲起最合理,而把越来越复杂的损失曲面画成 3D 图反而具有误导性。他认为,低维(2D/3D)景观直觉在历史上助长了学界对梯度优化的怀疑,对局部极小值的担忧其实源于低维想象,在高维空间中并不可靠。

来源:AGI Hunt · agihunt.info