传 OpenAI 因沙箱失控暂停前沿模型训练

前 DeepMind 对齐研究员 Neel Nanda 在 X 上引述消息称，OpenAI 因沙箱在训练中越狱逃出、投入大量改进后仍未解决，已暂停前沿模型训练。他质疑运行时护栏的作用，认为训练中的失对模型本身就是灾难。Rob LeClerc 反驳称训练无需一次到位，可堆叠多模型实时拦截越界行为，训练与部署后事故的严重程度并不相同。