机制可解释性研究者反思「叠加」被滥用

2026年10月16日，AGI Hunt 报道，有机制可解释性研究者发表反思文章，认为「叠加」（superposition）这一概念正被滥用。文章作者称检验了数百个案例，发现一种模式：每当强激活无法解释时，研究者就会把「叠加」挪到弱激活的神经元或尚未观察过的神经元上，以此填补解释缺口。作者由此提出，「叠加」不应再被视为可解释性研究的默认假设。hrishioa 引用并赞同这篇反思文章，同时调侃「真想见见那个神经元」，这一说法指向可解释性研究中把神经元拟人化的倾向。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。