跳到正文
原文
AGI Hunt· eigenron·· 3 小时前AI 评分24

eigenron:最大化求真的 AI 可能恰恰是对齐失败的 AI

'最大化求真的 AI 可能恰恰是对齐失败的 AI'

AI 导读

eigenron 提出反直觉观点:一个最大化求真的 AI 可能恰恰是未对齐的 AI。该论断指向对齐研究中真理性目标与人类价值之间可能存在的张力,追求绝对真相未必与人类期望的行为一致。

来源:AGI Hunt · agihunt.info