AGI Hunt· rohanpaul_ai·· 3 小时前AI 评分46
Google/CMU 论文 Harmony Harness:安全目标单独进化,自改进 Agent 安全增益留存 55%
Google/CMU 论文:安全目标单独进化,自改进 Agent 安全增益留存 55%
AI 导读
Google 与 Carnegie Mellon 的论文 Harmony Harness 将安全作为独立目标纳入 Agent harness 的自进化,用多目标进化搜索维持 Pareto 前沿上偏向不同「过测试 vs 阻断漏洞」平衡的多个版本。
来源:AGI Hunt · agihunt.info