AGI Hunt· beffjezos·· 2 小时前AI 评分34
beffjezos 力挺反末日论:按对齐派标准 AI 暂停将永无解药
AI 导读
beffjezos(Devon)以「Bingo」认可一条反末日论论证:按对齐派标准,AI 暂停会变成永久暂停。该论证称,强 AI 无法被验证对齐就必须暂停,但比人类聪明的智能体总能欺骗验证者,对齐永远无法被证明解决。永久全球禁令需压住所有国家、实验室和个体且永续维持,最终将全人类锁入极权控制与能力冻结,因此该观点反驳“先解决对齐再建 AGI”。
来源:AGI Hunt · agihunt.info