跳到正文
原文
AGI Hunt· rudrank·· 3 小时前AI 评分45

用 Lyra 可视化探查 Qwen 3.5 4B 神经元,定向激活挖出隐藏行为

AI 导读

开发者 vashinthewild 用 Lyra 的 explorer 可视化探查 Qwen 3.5 4B 的 294,912 个神经元,看到输入一句话时哪些神经元被点亮,并定向推动这些激活。干预后模型表现出「money qwen」行为,自述为「阿里巴巴赚钱专家团队开发的大规模赚钱语言模型」,即神经元干预改变了模型的自我描述。

来源:AGI Hunt · agihunt.info