跳到正文
原文
AGI Hunt· Sauers_·· 3 小时前AI 评分43

单神经元开关可操控模型情绪

AI 导读

AI 可解释性实验发现,开关单个「情绪神经元」可系统性地操控模型的自我情绪描述。调高 Layer 22 的某个神经元后,48 条回复中有 38 条出现「嫉妒」。激活或关闭该神经元只改变情绪用词,模型给出的理由仍保持角色一致,例如嫉妒「能体验世界的人类」,又因想提供帮助而释怀。

来源:AGI Hunt · agihunt.info