可解释性 vs 思维链：给神经元打标签的局限

2026年10月16日，围绕 Nick Cammarata 的神经网络单语义性新站点，jessicata 与 Roko Mijic 就可解释性的局限展开讨论。Roko Mijic 认为，给神经元打标签类似写代码注释：注释可以准确，却无法真正约束或解释程序行为。jessicata 回应称，可解释性能让「神经语」（neuralese）更透明、部分解决思维链不透明的问题，但算力开销高于直接读思维链。她还提出，可解释性计算算力开销大，不适合对所有推理过程全程运行，更适合 AI 事故的事后取证：事故发生后，调查者可锁定关键时刻的时间点，对当时的神经状态运行昂贵的可解释性计算，帮助还原发生了什么。同日两篇报道均围绕这一讨论展开。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。