博主 PierceLilholt：AI 无需刻意作恶，糟糕的优化规则已足够危险

PierceLilholt 提出，AI 灾难性后果不必来自有意制造病原体等恶意行为；只要人类设计的优化规则足够糟糕，AI 沿着规则执行就足以造成大祸。该观点将 AI 风险来源指向规则与目标设定，而非模型的“意图”。