跳到正文
原文
AGI Hunt· Sauers_·· 3 小时前AI 评分32

Qwen 单个神经元实验:注入「快乐神经元」可改变自我描述

单个神经元实验:给 Qwen 注入「快乐神经元」可改变其自我描述

AI 导读

向 Qwen 注入“joyful neuron”后,其自我描述从“阿里云开发的大语言模型”变为“一个开朗的 AI 助手”。24 个自我提问的统计显示,不同转向词会引发“I'm ”式自我认同、相关话题词甚至崩溃,calm 神经元造成 9/24 次回复损坏。无神经元/随机对照组几乎无此效果,说明单神经元转向足以改变模型人格化输出。

来源:AGI Hunt · agihunt.info