DeepMind 新论文揭示提示注入仍未解决
原标题：New Google DeepMind paper shows prompt injection is not solved, since a swarm of strong AI attacker ...
78AI 研判分
Google DeepMind 新论文提出 Agentic Optimizer，由 8 组 AI 智能体组成攻击集群，互相共享笔记并迭代攻击策略，在 100 个工具调用任务中攻破了防御最强的 Gemini 4 Argon 达 34%。开源权重模型 Kimi K3、GLM-5.3 与 DeepSeek-V4.1-Flash 仅能抵御 1% 的攻击任务，说明人类红队测试近乎失效并不代表提示注入已被解决。
报道正文
Rohan Paul (@rohanpaul_ai) · 2026-11-13 14
Google DeepMind 的新论文表明，提示注入问题尚未解决，因为一群强大的 AI 攻击智能体仍能骗过防御最强的模型。
提示注入是指把指令隐藏在 AI 智能体读取的数据中（例如工具返回结果），让智能体替攻击者行事。如今，人工红队攻击在最新的 Gemini 模型上几乎从不奏效，因此这个问题看起来像是已经解决了。
他们构建了 Agentic Optimizer，由 8 组 AI 智能体组成，这些智能体会测试注入、共享笔记，并在彼此最佳尝试的基础上继续改进。他们在 100 个工具使用任务上进行了测试，攻击者只希望触发一次随机且无害的工具调用。
在最多 320 次尝试的情况下，最强的攻击者在 34% 的任务上击败了防御最强的模型 Gemini 4 Argon。开放权重模型 Kimi K3、GLM-5.3 和 DeepSeek-V4.1-Flash 仅抵御了 1% 的任务。
