AGI Hunt· burny_tech·· 2 小时前AI 评分44
实测发现 Qwen 有 9 个「性别神经元」,激活后自称男或女
AI 导读
一项对 Qwen3.5-4B 的可解释性实验发现,模型第 1026 层存在 9 个单神经元级别的性别表征,定向激活任意一个后,它会自称女性或男性。9 个神经元中 5 个偏女、4 个偏男,在 25 个未参与定位的新性别问题上验证效果显著(Fisher p<0.001),随机神经元对照最多仅 2 次。单独问代词时 300 次回答中 he/him 29、they/them 23、she/her 0。
来源:AGI Hunt · agihunt.info