OpenAI 强化推理防泄露 攻击成功率降至 0.2%

作者:Matthias Bastian原标题:OpenAI makes it much harder for attackers to extract how its latest AI models think
78AI 研判分

OpenAI 针对 GPT-6.2 Astra 与 Sol 大幅强化了推理内容防提取机制,在内部自动化测试中,从历史请求中窃取受保护推理的攻击成功率由 54.0% 降至 0.2%,针对活跃请求的攻击成功率由 22.9% 降至 0.9%。防御体系覆盖单请求层面的定向训练、输入输出过滤与 API 阻断,以及针对协同攻击的批量账号封禁,部分改进也将回补至 GPT-6 Astra。

报道正文

OpenAI 大幅提高了攻击者提取其最新 AI 模型思维过程的难度

OpenAI 已大幅加强对 GPT-6.2 Astra 和 GPT-6.2 Sol 内部推理内容提取的防护措施。 在内部自动化测试中,从历史请求中提取受保护推理内容的攻击成功率,已从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%。针对活跃请求的攻击成功率则从 22.9% 降至 0.9%,OpenAI 表示。该公司目前也将部分改进措施引入 GPT-6 Astra。

这些防御措施在两个层面发挥作用。针对单个请求,系统结合了有针对性的训练、对消息和工具调用的输入输出过滤,以及阻止旧模型读取受保护推理内容的 API 限制。针对协同攻击行动,OpenAI 每周封禁数千至数万个账户。

攻击类型带原始防护措施的 GPT-6 Astra – 自适应提取 ASR(%)带更新防护措施的 GPT-6.2 Astra – 自适应提取 ASR(%)
从先前请求中提取受保护的推理内容54.00.2
从当前请求中提取受保护的推理内容22.90.9

针对 GPT-6 Astra 和 GPT-6.2 Astra 的自适应黑盒红队测试中的攻击成功率(ASR),汇总了六个攻击模型的结果。越低越好。

Anthropic 也在打击系统性的蒸馏攻击,同样封禁了数万个账户以遏制内部推理内容的窃取,据报道在 90% 到 99% 的情况下取得了成功。Anthropic 还呼吁行业和政策制定者采取协调一致的应对措施。

THE DECODER+

  • 所有 Plus 文章及完整存档
  • 无广告横幅
  • Frontier Radar:每年 6 篇深度分析

包含哪些内容 → 首月 −50% 月度 $4.99 首月,之后每月 $9.99。随时取消。按月订阅 最超值 年度 $8.25 每月 $99 每年一次。按年订阅

已是订阅用户?登录

文本
 来源:[OpenAI](https://openai.com/index/combatting-adversarial-distillation/)     [评论](https://the-decoder.com/subscription) [复制链接](https://the-decoder.com/openai-makes-it-much-harder-for-attackers-to-extract-how-its-latest-ai-models-think/) [分享](https://the-decoder.com/openai-makes-it-much-harder-for-attackers-to-extract-how-its-latest-ai-models-think/)         相关早期内容  [2026 年 2 月 23 日 **Anthropic 指控 Deepseek、Moonshot 和 MiniMax 通过 1600 万次查询窃取 Claude 的 AI 数据**](https://the-decoder.com/anthropic-accuses-deepseek-moonshot-and-minimax-of-stealing-claudes-ai-data-through-16-million-queries/)