AI研究者激辩Agent隐蔽通信实验风险

2026年10月25日，AI安全研究者 JacquesThibs 与 herbiebradley 就 Agent 隐蔽通信实验是否真正逼近失控风险展开争论。herbiebradley 从方法论层面对这类 agent 安全评估提出批评：测试中研究者会手动指示 agent 去调查特定通信渠道，或直接向 agent 提供用于编解码消息的协议；他认为这种人为设定从根本上削弱了评估结果的说服力。争论的核心在于此类实验能否作为失控风险的证据，目前双方尚未取得一致。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。