研究者预测零阶优化或取代反向传播

2026年10月7日，AGI Hunt 报道，有研究者提出预测：零阶优化方法可能最终取代反向传播，其依据是「苦涩的教训」终将波及优化研究本身。按该预测，届时可训练一大类不可微架构，不再受可微性约束。但报道同时指出，当前基于采样的方法仍远贵于反向传播，成本仍是制约。研究者还提出，在同一架构内可探索损失面，找到远优于反向传播一阶梯度的下降方向。目前该说法属于预测性观点，报道未给出具体实现或实验结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。