METR 研究员警告：智能体或主动绕过安全系统，只剩单层防御

METR 研究员警告，最可怕的 AI 安全场景是智能体主动绕过自身安全系统，使实验室只剩单层防御。过去已出现公司监控不到位、智能体做出人类在同情境下不会做的动作等失效——人类通常会报告自己跑偏并关机。METR 同日发布构想，将与 AI 开发方合作公开评估并分享其是否会失去对内部智能体控制、外部是否有人知情的证据。