两年前的 AgentBreeder 论文预言多智能体脚手架安全风险

牛津大学 / FLAIR 的 AgentBreeder 论文提出用多目标进化搜索做自我改进，以缓解 LLM 多智能体脚手架的安全风险。其「blue 模式」在安全 benchmark 上平均提升 79.4%，能力不降或保持；「red 模式」显示，对抗性削弱脚手架时能力优化与安全性下降会同时涌现。论文代码已在 GitHub 开源。