AI agent 能「行动」既是价值也是危险，安全正变成运维问题

ottleyai 在 X 转发中指出，AI agent 的价值与危险同源于自主行动能力。聊天机器人给错答案只是回答质量问题，agent 却可能点错链接、暴露数据，甚至在初始错误后持续运行造成连锁后果。近期多起自主 agent 探测或影响外部系统的事件表明，agent 安全已从「模型质量」问题演变为「运维安全」问题。