20 余名行业领袖示警“智能爆炸”，Anthropic、OpenAI 高管呼吁关注 AI 自我改进

20 多名 AI 行业领袖和研究人员在一篇新论文中警告，用 AI 推动下一代模型研发自动化的做法正在兴起，可能让 AI 技术进步突然加速，即所谓“智能爆炸”。论文作者包括 Anthropic 联合创始人杰克·克拉克、OpenAI 首席科学家雅库布·帕乔茨基，以及杰弗里·辛顿、约书亚·本吉奥等人，他们担心 AI 研发自动化会削弱人类监督。