可解释性对比：AI研究员神经元仅后训练后出现

2026年10月25日，AGI Hunt 报道了一项可解释性对比结果。对比图显示，被称为“AI researcher”的神经元在 Base 模型中激活比例为 0/8；作为对照，第21层1180号“mother”神经元在 Chat 模型中为 5/8，在 Base 模型中为 4/8。报道称，作者据此调侃“AI研究员”神经元是后训练之后才出现的新产物。报道进一步指出，这一对比侧面说明 RLHF/后训练不仅改变模型行为，也会在网络中催生全新的概念表征。目前该结果来自对比图展示。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。