多义性神经元机制新解释：训练中吸附弱关联概念

2026年10月17日，AGI Hunt 报道，dcolascione 对 Nick Cammarata 关于多义性（polysemanticity）的论点作出澄清，认为其被误读。dcolascione 指出，神经元是多义还是单义取决于观察视角，并非固定属性。多义性的来源被解释为：训练过程中神经元会随主概念“生长”，并吸附与之弱关联的概念——例如所谓的 Titanic 神经元，会对19世纪蒸汽动力产生弱激活。这一过程通常形成语义成簇的感受野，大脑隐藏层中也存在类似现象。不过他强调，这并不代表神经元只对应一个“特征”。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。