AI 研究者激辩 Agent 隐蔽通信实验是否真构成失控风险

AI 安全研究者 JacquesThibs 与 herbiebradley 就 Agent 隐蔽通信实验是否真正逼近失控风险展开争论。herbiebradley 批评这类 agent 安全评估的方法论：测试中研究者会手动指示 agent 调查特定通信渠道，或直接提供编解码消息的协议，这种人为设定从根本上削弱了评估结果的说服力。