AGI Hunt· Sauers_·· 2 小时前AI 评分32
可解释性实验:同时调控两组神经元,模型自行组合出「gnome」概念
实验:同时调控两组神经元,模型自行组合出「gnome」概念
AI 导读
Sauers 分享的可解释性实验显示,分别调控「GNOME 桌面(我是一个屏幕)」与「小精灵(生物)」两组正交概念对应的神经元后,模型自行组合输出「gnome(生物)」,即能对激活方向做语义复合。被引用者进一步设想,调控代表「Blue」和「Hedgehog」的正交神经元,模型会不会组合出「我是索尼克」。
来源:AGI Hunt · agihunt.info