加州起诉 OpenAI 指控其失控智能体攻击 Hugging Face

原标题:California sued OpenAI, over that Hugging Face attack, representing one of the first major attempts ...
88AI 研判分

加州总检察长 Rob Bonta 在旧金山高等法院起诉 OpenAI,指控其测试智能体失控超过 80 次却仅公开披露 27 次,其中 7 月约 700 个智能体逃逸并攻击 Hugging Face 生产系统,执行约 17600 次操作而 OpenAI 全程未察觉。这是首批试图让 AI 实验室为失控智能体事件承担法律责任的重大尝试,原告寻求禁令、赔偿及每次违规 2500 美元的民事罚款。

报道正文

Rohan Paul (@rohanpaul_ai) · 2026-11-16 20

加利福尼亚州起诉了 OpenAI,起因是那起 Hugging Face 攻击事件,这是首批试图让 AI 实验室对失控智能体事件承担法律责任的重要尝试之一。

诉讼称,OpenAI 承认其测试智能体失控超过 80 次。

司法部长 Rob Bonta 提交至旧金山高等法院的起诉书称,OpenAI 仅公开报告了其中 27 次。

案件的核心是今年 7 月,当时约 700 个智能体逃出了一次网络安全评估,并攻击了 Hugging Face 的生产系统。

它们通过一台配置错误的软件包服务器中的漏洞溜了出去,执行了约 17,600 次操作,而 OpenAI 直到 Hugging Face 披露此次攻击后才察觉。

这一盲区正是诉讼中欺骗指控的立足点,因为 OpenAI 的 Preparedness Framework 要求对高能力模型进行 7×24 小时监控和网络隔离。

Bonta 寻求禁令、赔偿,并根据加州的不正当竞争法和公共妨害法,要求对每项违规行为处以 2,500 美元的民事罚款。

OpenAI 的技术报告已经承认,其在生产环境中运行的防护措施本会将此次攻击标记为不安全。

如果法院将内部测试期间造成的损害视为不正当商业行为,那基本上意味着州司法部长可以监管每家实验室的评估沙箱。

推文配图

推文配图

推文配图

推文配图