跳到正文
原文
AGI Hunt· AxSaucedo·· 2 小时前AI 评分48

OpenAI 公布前沿训练环境安全加固与自 agent 红队方案

AI 导读

OpenAI 公布了前沿模型训练环境的安全加固细节,并介绍如何用自家 agent 对训练环境进行红队测试。相关实践发生在近期安全事件之后,属于前沿实验室少见的自身安全实践公开材料,可供 AI security 与训练基础设施防护研究参考。

来源:AGI Hunt · agihunt.info