清华研究揭示 AI 智能体长期记忆删除机制严重失效
原标题：New Tsinghua paper finds that when people ask AI agents with long-term memory to forget a personal d...
78AI 研判分
清华大学最新论文指出，具备长期记忆的 AI 智能体在响应用户“遗忘”请求时几乎无法彻底清除数据。测试显示，6 种主流记忆系统在端到端删除任务中通过率不足 1.5%，且极易通过简单提示词被重新提取。该研究呼吁开发者必须构建并验证真实的底层删除路径，而非仅依赖表面确认消息。
报道正文
Rohan Paul (@rohanpaul_ai) · 2026-11-04 10
清华大学最新论文发现，当用户要求具备长期记忆的 AI Agent 遗忘某项个人细节时，助手几乎从未能干净地将其移除——要么保留该信息，要么删除过多内容。
具备长期记忆的 Agent 会存储个人细节，而用户越来越多地要求它们删除诸如家庭住址等信息。现有的记忆基准测试仅涵盖事实的存储与召回。
研究团队构建了 BEMULA 数据集，包含 50 段长合成对话和 135 个遗忘请求，每个请求都配有一份不含该请求的副本。探针用于检查目标事实是否已被清除、其他记忆是否得以保留，以及攻击者是否仍能提取出该信息。
在跨 6 种记忆系统和 3 种骨干模型（backbone models）的测试中，没有任何配置能在端到端流程中通过超过 1.5% 的遗忘请求。在发出遗忘请求后，系统最多只能拦截 35.7% 的简单提取提示（如角色扮演或是非猜测）。
如果你的 Agent 会记住用户信息，请务必构建并测试真正的删除路径，因为确认消息并不意味着数据已被彻底清除。
