梯度可反传至输入端被视为AI可解释性独特优势

2026年10月16日，AGI Hunt 报道，博主 ShahabBakht 回应「打开神经网络看内部原理」的说法。他认为，比查看网络内部更关键的是把梯度一路反传到输入端，而这是任何实验手段都无法对大脑做到的。他判断，人类或许终能接近「观察大脑内部」，但「对大脑做反向传播」永远不会实现，而这正是 AI 可解释性研究相对于神经科学的独特优势。该表态为博主个人观点。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。