AGI Hunt· zainhas·· 2 小时前精选AI 评分66
两步 API 调用即可窃取大模型思维链,Anthropic 推出 preserved thinking 封堵
AI 导读
研究者发布《Stolen Thoughts》论文,指出 Anthropic、OpenAI 和 Google 的 API 会向客户端返回加密的思维链块,且可在跨会话、跨用户、跨模型间重放,把前沿模型的 trace 重放进较弱的同系模型再对其越狱,即可明文恢复强模型的隐藏推理,全程仅需两次 API 调用。
推荐理由
原文讲清两次 API 调用窃取思维链的攻击链路,以及 Anthropic 用签名校验限制读取的应对方式。
来源:AGI Hunt · agihunt.info