跳到正文
原文
AGI Hunt· Sauers_·· 3 小时前AI 评分38

归零 16 个神经元,模型特定回复概率暴降 83 万倍

AI 导读

Sauers 的可解释性实验定位出负责生成“Here's an inspirational”这一回复开头的 16 个神经元并逐个归零,该回复出现概率从 72% 跌至 1/5200 万,相当于约 83 万倍不可能出现。归零同样数量的随机神经元则几乎无影响,说明模型行为可被极少量神经元精准“削除”。

来源:AGI Hunt · agihunt.info