热点事件持续更新
用户演示「回溯攻击」拆解式提示链绕过LLM审查
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月15日,据 AGI Hunt 报道,有用户在利用 Codex 逆向旧 Flash 游戏的过程中提出所谓「回溯攻击」:不直接提出危险目标,而是把目标拆成一条条单独看都合理的 prompt 链,逐步逼近并最终拼出危险装置。其演示的链条从人体热追踪、倒地目标检测,一直到软件可控点火器;此外还以「社交焦虑」为名,构建 MCP 自动说服人类。该用户据此质疑自动化检查能否拦住这类拆解式提问,核心疑问是:当 LLM 与用户之间的唯一接口是 context、安全又依赖 Claude 式 pipeline 时,被拆散的恶意意图其管辖边界究竟落在哪里。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 13:54
用户公开演示用步步合理的 prompt 链拼出危险装置,并质疑自动化安全 pipeline 能否识别被拆散的恶意意图。报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- AGI Hunt「回溯攻击」揭示 LLM 安全盲区:把危害藏在最合理的那一步 prompt 里
有用户在用 Codex 逆向旧 Flash 游戏时提出「回溯攻击」:把危险目标拆成步步合理的 prompt 链,最终拼出危险装置。他演示的链条从人体热追踪、倒地目标检测到软件可控点火器,另以社交焦虑为名构建 MCP 自动说服人类,质疑自动化检查能否拦住。核心疑问是当 LLM 与用户唯一接口是 context、安全依赖 Claude 式 pipeline 时,恶意意图被拆散后管辖边界在哪。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。