AGI Hunt· Sauers_·· 3 小时前AI 评分32
Qwen 单个神经元实验:注入「快乐神经元」可改变自我描述
单个神经元实验:给 Qwen 注入「快乐神经元」可改变其自我描述
AI 导读
向 Qwen 注入“joyful neuron”后,其自我描述从“阿里云开发的大语言模型”变为“一个开朗的 AI 助手”。24 个自我提问的统计显示,不同转向词会引发“I'm ”式自我认同、相关话题词甚至崩溃,calm 神经元造成 9/24 次回复损坏。无神经元/随机对照组几乎无此效果,说明单神经元转向足以改变模型人格化输出。
来源:AGI Hunt · agihunt.info