跳到正文
原文
AGI Hunt· sebpaquet·· 3 小时前AI 评分29

Jon Stokes 论对齐为何不可行:效用函数只是事后构造

Jon Stokes 论对齐为何不可行:效用函数只是事后构造

AI 导读

Jon Stokes 主张 AI「对齐」这一概念框架不可行、不连贯,即便可行也不充分,应被 AI 安全界高优先级地替换掉。其核心论证是:效用函数只是观察者事后对智能体行为的构造性解释,并非智能体内部真实存在、可被修改或复制的对象,因此对齐在根上就不成立。Meaningness 转发了这一观点并附和。

来源:AGI Hunt · agihunt.info