DeepMind 十年老将 Krakovna：人类渐进失权比灭绝更可能，须协调放缓 AGI

Google DeepMind 研究科学家 Victoria Krakovna 在访谈中表示，AI 发展导致人类灭绝存在显著可能性，但渐进失权比灭绝更可能发生，并呼吁全球协调放缓 AGI 开发。她认为 AI 不需要有意识也会产生工具性目标，强大 AI 若控制地球可能把地球表面铺满数据中心；模型能力越强，越能优化错误目标，问题反而更难。她主张出路是协调放缓开发节奏，而不一定要完全停止。