OpenAI 官方博客T1·基座大模型
45 分
本文深入剖析对抗样本(Adversarial Examples)作为机器学习模型“视觉错觉”的本质,展示其在不同媒介上的攻击机制。文章重点讨论了为何针对此类隐蔽输入的安全防御极具挑战性,揭示了当前 AI 系统在鲁棒性方面的核心短板。
Model Robustness
模型在面对噪声、异常或攻击时保持性能的能力
本文深入剖析对抗样本(Adversarial Examples)作为机器学习模型“视觉错觉”的本质,展示其在不同媒介上的攻击机制。文章重点讨论了为何针对此类隐蔽输入的安全防御极具挑战性,揭示了当前 AI 系统在鲁棒性方面的核心短板。