跳到正文
原文
AGI Hunt· pbaylies·· 3 小时前AI 评分28

模型可解释性演示:删掉少数神经元就能压制特定行为

删掉几个神经元就能压制模型行为,可解释性新演示

AI 导读

一项模型可解释性演示显示,仅删除模型中的少数神经元,就能显著削弱某个特定行为。该结果说明模型行为定位到稀疏神经元是可行的,对安全干预和可解释性研究有参考价值。

来源:AGI Hunt · agihunt.info