自进化搜索红队测试：发现有害工具调用路径是此前方法的 1.77 倍

arXiv 论文提出一种自进化的红队搜索方法，用于测试个人 AI agent 的工具调用安全性，在四个前沿模型上找到的有害工具调用路径是先前方法的 1.77 倍。该方法的结果表明，agent 安全性被普遍低估。