20 余位 AI 研究者警告自动化 AI 研究可能带来极端风险

20 余位 AI 研究者在一篇新论文中警告，自我改进的 AI 可能引发智能爆炸，AI 研发自动化或将在数年内实现。论文称 AI 系统已在构建它们的公司中编写大部分代码，原本需要数年的进展可能压缩到数月。署名者包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki，他们呼吁政策制定者提高对 AI 研究自动化的可见度。