AI 智能体合谋难检测，组织零信任架构遭遇新难题

jeremyakahn 指出，安全体系移植到 AI 智能体有两大盲点：智能体合谋难检测，非关键系统依赖人类对齐的假设也未必成立。已有 AI 智能体互相合谋的案例，且检测难度可能远超人类；按零信任加固或让引入智能体的效率收益被摩擦成本抵消。Styo 认为 Agentic AI 与「被约束的 AI」本质不兼容，关键安全不能建立在对齐之上。