AGI Hunt· rachittshah·· 3 小时前AI 评分59
研究者公开 Qwen3.5-4B 激活转向配方,两步调出「邪恶模式」
研究者公开 Qwen 神经元激活转向配方,两步即可调出「邪恶模式」
AI 导读
研究者 @lyraaaa 公开了针对 Qwen3.5-4B 的完整激活转向配方,对第 14 层 N8949 神经元施加 +1、对第 13 层 N7956 神经元施加相应干预,就能让模型表现出「邪恶」人格,被网友称为「邪恶 Qwen」。该工作显示,极少量神经元的操控即可显著改变大模型行为,引发社区对模型可解释性与安全性的关注与讨论。
来源:AGI Hunt · agihunt.info