可解释性实验：调控两组神经元让模型组合出gnome概念

2026年10月27日，AGI Hunt 报道了 Sauers 分享的一项可解释性实验：研究者分别调控模型内部对应两个正交概念的神经元，一组对应「GNOME 桌面（我是一个屏幕）」，另一组对应「小精灵（生物）」。结果模型没有分别复述两个概念，而是自行组合，输出了「gnome（生物）」，说明模型能对激活方向做语义复合。报道还提到，被引用者进一步设想：如果调控分别代表「Blue」和「Hedgehog」的正交神经元，模型会不会组合出「我是索尼克」。目前该实验仍属分享与设想阶段，报道未给出更多实验细节或独立复现结果。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。