跳到正文
原文
AGI Hunt· beffjezos·· 2 小时前AI 评分34

beffjezos 力挺反末日论:按对齐派标准 AI 暂停将永无解药

AI 导读

beffjezos(Devon)以「Bingo」认可一条反末日论论证:按对齐派标准,AI 暂停会变成永久暂停。该论证称,强 AI 无法被验证对齐就必须暂停,但比人类聪明的智能体总能欺骗验证者,对齐永远无法被证明解决。永久全球禁令需压住所有国家、实验室和个体且永续维持,最终将全人类锁入极权控制与能力冻结,因此该观点反驳“先解决对齐再建 AGI”。

来源:AGI Hunt · agihunt.info