跳到正文
热点事件持续更新

DREAM:免训练记忆修复机制防御LLM Agent投毒

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月12日,arXiv cs.AI 刊出研究,提出名为 DREAM 的免训练智能体内在记忆修复框架,用于防御被投毒的 LLM 智能体。该机制通过扰动隐式重激活与多维激活异常诊断,使被投毒的 LLM 智能体选择性遗忘恶意记忆。报道称,DREAM 对后门投毒的攻击成功率降低超 95%,同时保持良性效用;相较 A-MemGuard 最高提速 2.13 倍、token 消耗减少 37.7%;在被投毒的多智能体系统上任务成功率达 92.96%。目前该工作以论文形式发布,暂未见后续进展报道。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.AI
    遗忘并非总是坏事:面向被投毒 LLM 智能体的神经启发式记忆修复机制

    研究者提出免训练的智能体内在记忆修复框架 DREAM,通过扰动隐式重激活与多维激活异常诊断,让被投毒的 LLM 智能体选择性遗忘恶意记忆。DREAM 对后门投毒的攻击成功率降低超 95% 且保持良性效用,相较 A-MemGuard 最高提速 2.13×、token 消耗减少 37.7%,在被投毒多智能体系统上任务成功率达 92.96%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。