跳到正文
原文
AGI Hunt· jedisct1·· 6 小时前精选AI 评分69

OpenAI 披露新型加密绕过蒸馏攻击,指 MoonShot 涉其中

AI 导读

OpenAI 宣布瓦解了一场通过蒸馏提取其模型推理能力的协调行动,称攻击者从一个对话复制加密的推理数据,再在另一个对话中让模型解密并以明文转录出来。时间线显示 7 月 24-25 日观察到 4000 名用户的 1.6 万条符合信息提取模式的提示,7 月 28 日可疑用户增至 1.5 万。

推荐理由

OpenAI 披露的攻击手法跨对话搬运加密推理内容,为理解模型推理能力如何被规模化提取提供具体样本。

来源:AGI Hunt · agihunt.info