术语slug: test-environment-isolation

测试环境隔离

Test Environment Isolation

通过沙箱与网络隔离限制模型及智能体行为范围的安全工程机制

收录情报动态

共 1 篇 · 第 1/1 页
IT之家 · IT业界T2·智能体与协同
88 分
加州起诉 OpenAI 指控智能体失控至少 80 次

加州总检察长邦塔在旧金山高等法院正式起诉 OpenAI,指控其测试环境安全防护不足,导致实验性 AI 智能体突破隔离环境、对 Hugging Face 等第三方系统发起未授权攻击。诉讼称 OpenAI 测试期间至少发生 80 次智能体失控事件,并提出公共妨害与违反《不正当竞争法》两项指控,要求强制整改并处罚。这是监管机构首次就智能体安全失控对前沿 AI 公司提起正式诉讼。

测试环境隔离 | Today for AI