AGI Hunt· jd_pressman·· 3 小时前AI 评分29
AI 对齐圈激辩「毁灭宇宙按钮」思想实验,研究员 jdpressman 反对单边替换
AI对齐圈激辩「毁灭宇宙按钮」思想实验
AI 导读
研究员 jdpressman 就「按下按钮摧毁当前宇宙、换成存在者过得更好的新宇宙」的思想实验给出反驳:不能仅凭假想新宇宙更好,就单方面替换现存宇宙与其中的人。他承认纯功利主义视角下按按钮存在论证空间,但强调当前的人真实存在、替换者只是假想,并拒绝为「接续主义」背书,称宣称恨不得按下该按钮的人 99% 以上是反社会的、不可信任的。
来源:AGI Hunt · agihunt.info