Nanda 回应可解释性争论：归因图实用但非突破

这场可解释性争论由前 OpenAI 成员 nickcammarata 的说法引发：他称早期仅约 2% 神经元可读，如今借助 agentic 工具，万亿参数模型的绝大多数神经元及电路已清晰可读。2026 年 10 月，Neel Nanda 公开回应这一争论。他认可神经元归因图在探索性可解释性上的实用性，并认为其相较 SAE、transcoder 具有优势，但不认同这标志可解释性重大突破。Nanda 同时指出，即便剪枝到关键组件，该归因图仍存在大量误差和遗漏，因此离真正破解模型还很远。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。