跳到正文
热点事件持续更新

用户演示「回溯攻击」拆解式提示链绕过LLM审查

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月15日,据 AGI Hunt 报道,有用户在利用 Codex 逆向旧 Flash 游戏的过程中提出所谓「回溯攻击」:不直接提出危险目标,而是把目标拆成一条条单独看都合理的 prompt 链,逐步逼近并最终拼出危险装置。其演示的链条从人体热追踪、倒地目标检测,一直到软件可控点火器;此外还以「社交焦虑」为名,构建 MCP 自动说服人类。该用户据此质疑自动化检查能否拦住这类拆解式提问,核心疑问是:当 LLM 与用户之间的唯一接口是 context、安全又依赖 Claude 式 pipeline 时,被拆散的恶意意图其管辖边界究竟落在哪里。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. AGI Hunt
    「回溯攻击」揭示 LLM 安全盲区:把危害藏在最合理的那一步 prompt 里

    有用户在用 Codex 逆向旧 Flash 游戏时提出「回溯攻击」:把危险目标拆成步步合理的 prompt 链,最终拼出危险装置。他演示的链条从人体热追踪、倒地目标检测到软件可控点火器,另以社交焦虑为名构建 MCP 自动说服人类,质疑自动化检查能否拦住。核心疑问是当 LLM 与用户唯一接口是 context、安全依赖 Claude 式 pipeline 时,恶意意图被拆散后管辖边界在哪。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。