AGI Hunt· burny_tech·· 3 小时前AI 评分42
Qwen「金钱神经元」被定位到第 25 层 N3718
有人「操纵金钱神经元」,Qwen 对钱执念被定位到具体层
AI 导读
vashinthewild 发现 Qwen 模型对「money」话题表现出执念,并给出可复现的干预坐标:第 25 层 N3718 神经元、方向系数 +0.8(L25N3718+0.8)。该结果通过 activation steering 定位并操控与金钱相关的概念方向,burnytech 转发时调侃为「steering money neuron」。
来源:AGI Hunt · agihunt.info