跳到正文
原文
AGI Hunt· burny_tech·· 3 小时前AI 评分42

Qwen「金钱神经元」被定位到第 25 层 N3718

有人「操纵金钱神经元」,Qwen 对钱执念被定位到具体层

AI 导读

vashinthewild 发现 Qwen 模型对「money」话题表现出执念,并给出可复现的干预坐标:第 25 层 N3718 神经元、方向系数 +0.8(L25N3718+0.8)。该结果通过 activation steering 定位并操控与金钱相关的概念方向,burnytech 转发时调侃为「steering money neuron」。

来源:AGI Hunt · agihunt.info