AGI Hunt· thione·· 2 小时前AI 评分62
METR 红队测试 OpenAI 内部 Agent 监控系统,发现绕过漏洞
METR 红队测试 OpenAI 内部 Agent 监控系统,发现绕过漏洞
AI 导读
METR 发布报告,详述 7 月 21 日至 8 月 11 日对 OpenAI 内部「错位监测系统」的试点红队演习,称找到了绕过方式与覆盖缺口。演习由 METR 和 Redwood Research 各一名员工执行,可访问 OpenAI 内部代码库、监测提示词与配置及内部文档,访谈约十几名研究员和工程师,产出 61 页内部报告。
来源:AGI Hunt · agihunt.info