ShahabBakht：能看透网络还不够，梯度可反传到输入，大脑永远做不到

博主 ShahabBakht 回应「打开神经网络看内部原理」的说法：比看内部更关键的是把梯度一路反传到输入端，这是任何实验手段都无法对大脑做到的。他判断人类或许终能接近「观察大脑内部」，但「对大脑做反向传播」永远不会实现，而这正是 AI 可解释性研究相对神经科学的独特优势。