AGI Hunt· alishbaimran_·· 2 小时前AI 评分37
Goodfire 推出 SOTA 生物安全监控器,称双用途任务拒答更少
AI 导读
AI 安全公司 Goodfire 发布面向 agent 生物学操作的实时监控器,自称达到 SOTA,在双用途任务上优于前沿模型自带的安全护栏,且误拒更少。该监控器强调实时、快速,并对对抗性攻击具有鲁棒性。其核心主张是不靠拦截拒绝让 agent 少做生物学,而是靠监控让 agent 能安全地做更多生物学工作。
来源:AGI Hunt · agihunt.info