跳到正文
原文
AGI Hunt· LuizaJarovsky·· 3 小时前AI 评分31

Luiza Jarovsky:能力过阈值后,AI 对齐恐不再可行

AI 导读

AI 研究者 Luiza Jarovsky 以「unpopular opinion」形式提出,一旦 AI 能力跨过某个阈值,对齐很可能就无法再实现了。她暗示对齐工作必须在模型能力到达临界点之前完成,超能力阶段的对齐或成不可能任务。该帖子较短,未展开具体论证。

来源:AGI Hunt · agihunt.info