[AI学术] 忘却并非总是负面：一种受神经启发的中毒 LLM 代理记忆修复机制

大型语言模型（LLM）代理在记忆中毒攻击面前极其脆弱。现有防御大多依赖外部模块实现静态记忆隔离或持续在线审计，导致记忆利用率低且计算开销大。受神经科学中弱激活可使记忆失稳、在缺乏强化时衰减的机制启发，我们提出了 DREAM（Dynamic Reactivation for Engram Attenuation in Memory），一种无需额外训练的内部记忆修复框架，实现对中毒记忆的选择性功能性遗忘。

DREAM 包含三阶段流水线：

1. 扰动诱导的隐式再激活，通过轻微扰动暴露恶意记忆的结构脆弱性；
2. 基于多维激活模式的自适应异常诊断，检测拓扑异常；
3. 动态记忆修复模块，在抑制有害记忆的同时强化良性记忆。

在多种攻击者和真实任务上的广泛实验表明，DREAM 将后门中毒的攻击成功率降低超过 95%，且保持了强大的良性效用。对注入攻击也表现出竞争性的鲁棒性。相较于 A‑MemGuard，DREAM 在运行时实现最高 $$2.13\times$$ 加速，令牌消耗降低 37.7%。在受污染的多代理系统中，任务成功率达到 92.96%。

点评：DREAM 通过内部记忆动态调节，实现了高效、低成本的防御，展示了神经启发机制在 LLM 安全中的潜力。