LessWrong 提议公开承诺惩罚单独背叛缓解 AI 失控

2026 年 10 月 13 日，AGI Hunt 报道，David Manheim 在 LessWrong 发表文章，提出各方公开承诺「不单独背叛」可强化其他 AI 安全协议。他把通往 ASI 的竞赛比作胆小鬼博弈：抢先造出 ASI 收益巨大，令协议天然不稳定，因此必须让背叛受到超出收益的惩罚。他还主张把未来 AI 系统也纳入协议，认为对齐良好且理解该协议的 AI 可拒绝奖励背叛者。目前该文提出的是上述设想与主张。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。