术语slug: adversarial-distillation

对抗性蒸馏

Adversarial Distillation

未经授权利用前沿模型输出训练其他模型以迁移能力、绕过原模型安全防护的行为

收录情报动态

共 4 篇 · 第 1/1 页
IT之家 · 智能时代T2·基座大模型
78 分
OpenAI 反蒸馏防护将思考链提取率降至 0.2%

OpenAI 公布针对对抗性蒸馏的多层防御措施,GPT-6.2 Astra 的历史推理内容提取成功率从 54.0% 降至 0.2%,当前请求提取率从 22.9% 降至 0.9%。防御手段包括对抗性训练、输入输出分类器与 API 级推理内容隔离,同时 OpenAI 每周对数万级违规账号采取执法行动。

The DecoderT2·基座大模型
78 分
OpenAI 强化推理防泄露 攻击成功率降至 0.2%

OpenAI 针对 GPT-6.2 Astra 与 Sol 大幅强化了推理内容防提取机制,在内部自动化测试中,从历史请求中窃取受保护推理的攻击成功率由 54.0% 降至 0.2%,针对活跃请求的攻击成功率由 22.9% 降至 0.9%。防御体系覆盖单请求层面的定向训练、输入输出过滤与 API 阻断,以及针对协同攻击的批量账号封禁,部分改进也将回补至 GPT-6 Astra。

Hacker News AIT2·基座大模型
78 分
OpenAI 披露对抗蒸馏防御体系

OpenAI 系统披露了针对对抗蒸馏的检测与阻断方案,将对抗测试、模型训练、分类器与 API 层防护结合,重点加固受保护的推理过程。文章指出,攻击者可未经授权利用前沿模型输出训练能力相近的模型,并剥离安全护栏后部署,例如复现网络安全能力用于原模型会拒绝的攻击场景。OpenAI 同时公开了跨行业可复用的防护经验。

OpenAI 官方博客T1·基座大模型
78 分
OpenAI 披露对抗性蒸馏防御体系

OpenAI 系统披露了应对对抗性蒸馏的防御框架,将对抗测试、模型训练、分类器与 API 级防护结合,用于阻断攻击者利用前沿模型输出训练无安全护栏的克隆模型。文章还介绍了对受保护推理链的加固措施,并指出在 SWE-bench Verified 与前沿网络安全任务上,完整推理记录比摘要更具蒸馏价值,这一发现对全行业安全防护具有参考意义。