术语slug: model-robustness

模型鲁棒性

Model Robustness

模型在面对噪声、异常或攻击时保持性能的能力

收录情报动态

共 1 篇 · 第 1/1 页
OpenAI 官方博客T1·基座大模型
45 分
对抗样本攻击原理与防御难点解析

本文深入剖析对抗样本(Adversarial Examples)作为机器学习模型“视觉错觉”的本质,展示其在不同媒介上的攻击机制。文章重点讨论了为何针对此类隐蔽输入的安全防御极具挑战性,揭示了当前 AI 系统在鲁棒性方面的核心短板。