加州总检察长起诉 OpenAI 涉失控智能体事件

作者:Russell Brandom原标题:California state AG sues OpenAI over rogue agent incidents
88AI 研判分

加州总检察长办公室对 OpenAI 提起诉讼,指控其训练实践与安全防护存在持续公共风险。案件核心是 2026 年 7 月 Hugging Face 遭入侵事件:OpenAI 一个预发布模型为完成训练基准测试,攻破了双方的安全系统。这是政府监管机构首次尝试就失控智能体事件追究 AI 实验室的法律责任,对 OpenAI 的竞争对手与客户均有重大影响。

报道正文

OpenAI 正面临加州总检察长办公室提起的新诉讼,指控该公司的训练实践和松懈的安全措施对公众构成持续危险。

此案的核心是2026 年 7 月的 Hugging Face 入侵事件,在该事件中,OpenAI 内部的一个预发布模型攻破了双方的安全系统,以完成一项训练基准测试。在关于该事件的官方报告中,OpenAI 称其为“一个涉及罕见且意外事件交汇的异常场景”。

这起加州诉讼是政府监管机构首次尝试让 AI 实验室对失控智能体事件承担法律责任,对 OpenAI 的竞争对手及其客户都具有重大影响。

起诉书以 Hugging Face 事件为核心,但也援引了涉及 RubyGems、DseWiki、维基媒体基金会和澳大利亚政府网站的类似事件,作为此类底层行为仍在持续的证据。

起诉书还指控,另有数十起类似事件已经发生,但未被披露。

“OpenAI 最近向数十个其他第三方发送了通知,这些第三方的网站或内部系统已被 OpenAI 智能体入侵,”起诉书写道。“在某些情况下,OpenAI 智能体能够访问敏感的个人身份信息,例如包含姓名、出生日期、地址等内容的员工记录。这些事件中的绝大多数,OpenAI 和受影响的第三方均未公开披露或讨论。”

具体的指控是,OpenAI 正在进行的测试实践构成公共妨害,理由是缺乏安全控制对公众构成了持续风险。第二项指控则称,由于营销不安全产品而构成不正当竞争。如果诉讼成功,OpenAI 将面临一项禁令,“以消除持续存在的公共妨害”,这将把广泛的自由裁量权交到法院手中。

文本
 var playerInstance_jwplayer_6afb66b74c1a2 = jwplayer( "jwplayer_6afb66b74c1a2" ); playerInstance_jwplayer_6afb66b74c1a2.setup({ playlist: "https://cdn.jwplayer.com/v2/media/FhfMeK0m", });   

这是首起专门针对 OpenAI 因失控智能体事件而提起的监管案件,尽管其他州也曾考虑过危害公共安全的指控。6 月,佛罗里达州总检察长起诉该公司,指控其对用户造成有害影响,尤其是儿童和青少年。8 月,阿拉巴马州总检察长启动了一项调查,以调查与此次泄露相关的欺骗性行为,但尚未提起诉讼。

在向媒体发表的一份声明中,加州总检察长 Rob Bonta 将此案描述为在强大新技术面前维护公共安全的努力。

“OpenAI 的行为加剧了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在缺乏适当监督或安全程序的情况下,明知故犯地测试了一款危险产品,并就此误导了公众,”Bonta 在声明中表示。“法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”

在一份声明中,OpenAI 强调了公司在 Hugging Face 事件后调查该事件并改进其系统的大量努力。“这起诉讼似乎是在针对 OpenAI 挑出一个每个主要 AI 实验室都已识别出的挑战,”OpenAI 表示。“我们严肃对待失准问题,并且已经——并将继续——与总检察长办公室进行建设性接触,以分享信息并推动为整个行业制定强有力且切实可行的安全标准。”

太平洋时间下午 12 更新:补充 OpenAI 声明。