返回热点榜
llm热度 61.6°

AI 聚合热点事件 · 2026/11/20

OpenAI 强化推理防泄露 攻击成功率降至 0.2%

5 篇收录报道5 家独立信源交叉印证持续跟踪至 2026/11/21 09:45:22
全景综述与最新动态
5 家信源交叉印证

OpenAI 首次系统披露针对对抗性蒸馏的多层防御体系,核心指标大幅改善:从历史请求中提取受保护推理内容的攻击成功率由 54.0% 降至 0.2%,针对活跃请求的攻击成功率由 22.9% 降至 0.9%。该防御覆盖 GPT-6.2 Astra 与 Sol 等前沿模型,部分改进将回补至前代 GPT-6 Astra。

防御体系由三层构成:单请求层面的对抗性训练、输入输出分类器与 API 级推理内容隔离;跨会话与跨组织的推理复用限制;以及针对协同攻击的批量账号封禁。OpenAI 每周对数千至数万个未授权蒸馏账号采取执法行动,并与其他厂商共享攻击指标。官方博客特别指出,在 SWE-bench Verified 与前沿网络安全任务上,完整推理记录比摘要更具蒸馏价值,因此防御必须覆盖推理链输出。

这一披露对行业具有双重意义:一方面,对抗蒸馏可让攻击者复刻前沿能力并剥离安全护栏,形成实质滥用风险,OpenAI 的防御框架提供了可复用的跨行业经验;另一方面,Arena.ai 同期更新的对齐指数显示 OpenAI 包揽前七名,Claude Fable 5.2 首发第八,Kimi K3.1 Pro 为最强开源模型(第九),表明安全与对齐正成为模型竞争力的关键维度。

最新动向/OpenAI 披露对抗蒸馏防御细节后,业界关注其推理链保护方案的可复用性。Arena.ai 同期更新对齐指数,OpenAI 包揽前七,Claude Fable 5.2 首发第八,Kimi K3.1 Pro 领跑开源。安全对齐正成为模型竞争新焦点。

逐小时热度走势

24 个完整观测小时
当前
61.6
峰值
74.410:00
近 24h 变化
+208%

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 5 篇 · 最新优先
  1. IT之家 · 智能时代T2·78 分

    OpenAI 反蒸馏防护将思考链提取率降至 0.2%

    原标题:OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2%

    • 历史请求推理内容提取成功率从 54.0% 降至 0.2%,当前请求从 22.9% 降至 0.9%,汇总 6 个攻击模型数据
    • 防御由对抗性训练、输入输出分类器、跨会话与跨组织推理复用限制三层构成
    • OpenAI 每周对数千至数万个未授权蒸馏账号采取行动,并与其他厂商共享攻击指标
  2. The DecoderT2·78 分

    OpenAI 强化推理防泄露 攻击成功率降至 0.2%

    原标题:OpenAI makes it much harder for attackers to extract how its latest AI models think

    • 从历史请求提取受保护推理的攻击成功率由 54.0% 降至 0.2%,活跃请求由 22.9% 降至 0.9%
    • 防御分两层:单请求侧的定向训练、输入输出过滤与 API 阻断,以及针对协同攻击的批量账号封禁
    • 部分改进将回补至 GPT-6 Astra,显示防御能力正向前代模型迁移
  3. Hacker News AIT2·78 分

    OpenAI 披露对抗蒸馏防御体系

    原标题:Combatting Adversarial Distillation

    • 对抗蒸馏可让攻击者绕过安全护栏复现前沿能力,网络安全是典型滥用场景
    • OpenAI 采用对抗测试、训练、分类器与 API 防护的多层组合进行检测与阻断
    • 受保护推理过程的加固成为防御核心,相关经验可跨行业复用
  4. OpenAI 官方博客T1·78 分

    OpenAI 披露对抗性蒸馏防御体系

    原标题:Combatting adversarial distillation

    • 对抗性蒸馏可让攻击者复刻前沿能力并剥离安全护栏,形成实质滥用风险
    • OpenAI 采用对抗测试、训练、分类器与 API 防护的多层组合防御
    • 完整推理记录比摘要更具蒸馏价值,防御需覆盖推理链输出