LessWrong 新文：公开承诺惩罚「单独背叛」可缓解 AI 失控风险

David Manheim 在 LessWrong 提出，各方公开承诺「不单独背叛」可强化其他 AI 安全协议。他把通往 ASI 的竞赛比作胆小鬼博弈，抢先造出 ASI 收益巨大令协议天然不稳定，须让背叛受到超出收益的惩罚。他还主张把未来 AI 系统也纳入协议：对齐良好且理解该协议的 AI 可拒绝奖励背叛者。