当无数 AI 的集体激励产生人类无法逆转的后果会怎样

PierceLilholt 提出一个开放性问题：如果每个个体 AI 都不追求控制权，但数百万个 AI 系统的集体激励叠加，产生任何人类机构都无法逆转的结果，世界会怎样？这是一条关于 AI 系统性风险的思辨性推文，未展开具体论证。