跳到正文
原文
AGI Hunt· teortaxesTex·· 2 小时前AI 评分59

Compaction Smuggling 绕过 OpenAI 防护窃取推理轨迹

新攻击手法 Compaction Smuggling 绕过防护窃取 OpenAI 推理轨迹

AI 导读

安全研究者 @tjbecker(Xint 团队)发布报告称,一种名为 Compaction Smuggling 的新技术可绕过 OpenAI 针对「Stolen Thoughts」事件设置的全部防护,大规模窃取前沿模型的完整推理链用于模型蒸馏。团队已向 OpenAI 负责任披露,官方已于上周完成修复,完整技术分析见其博客。

来源:AGI Hunt · agihunt.info