GovAI 研究员 Alan Chan 深谈 Agent 治理：监控、Agent ID 与失控防范

GovAI 研究员 Alan Chan 在 Cognitive Revolution 播客中讨论自主 AI Agent 治理，认为训练与测试阶段缺乏实时同步监控是当下的直接安全漏洞。他指出开放网络缺乏可追踪的 agent ID，出事后难以归因与拦截，CoT 也不能作为可靠的监控信号。针对沙盒逃逸，他主张预设越界触发条件即时叫停，并谈及自动化审计员、AI 吹哨人与 swarm 风险。