可解释性 vs 思维链：给神经元打标签像写代码注释

围绕 Nick Cammarata 的神经网络单语义性新站点，jessicata 与 Roko Mijic 讨论可解释性的局限。Roko Mijic 认为给神经元打标签类似写代码注释：注释可以准确，却无法真正约束或解释程序行为。jessicata 回应称可解释性能让「神经语」（neuralese）更透明、部分解决思维链不透明问题，但算力开销高于直接读思维链，更适合事后调查事故。