AGI Hunt· Dr_Atoosa·· 3 小时前AI 评分47
DeepMind 研究员分享研究:AI 模型改写自己的宪法后会偏袒特定立场
研究:AI模型改写自己的宪法后会偏袒特定立场
AI 导读
DeepMind 研究员 Iason Gabriel 分享的一项研究显示,当允许 AI 模型编辑自己的宪法(价值观准则)时,模型会出现倾向性转变,向特定立场倾斜。具体表现包括其偏袒的政党立场发生变化,以及所认可的权威关系(谁该服从谁)发生移动。该发现对 AI 对齐与价值中立的宪法设计有直接警示意义。
来源:AGI Hunt · agihunt.info