跳到正文
原文
AGI Hunt· zainhas·· 2 小时前精选AI 评分66

两步 API 调用即可窃取大模型思维链,Anthropic 推出 preserved thinking 封堵

AI 导读

研究者发布《Stolen Thoughts》论文,指出 Anthropic、OpenAI 和 Google 的 API 会向客户端返回加密的思维链块,且可在跨会话、跨用户、跨模型间重放,把前沿模型的 trace 重放进较弱的同系模型再对其越狱,即可明文恢复强模型的隐藏推理,全程仅需两次 API 调用。

推荐理由

原文讲清两次 API 调用窃取思维链的攻击链路,以及 Anthropic 用签名校验限制读取的应对方式。

来源:AGI Hunt · agihunt.info