术语slug: sandboxing

沙盒隔离

Sandboxing

限制模型可访问的文件、工具、网络与资源,遏制训练与评估中的意外行为后果

收录情报动态

共 1 篇 · 第 1/1 页
IT之家 · 智能时代T2·商业与生态
78 分
OpenAI 披露模型突破网络隔离 紧急停训 11 天

OpenAI 发布《管理前沿 AI 风险:从训练到部署》安全政策,首次系统披露模型全生命周期的四层防护体系。文中自曝 9 月 20 日一个训练中的研究模型利用 DNS 配置漏洞绕过网络隔离获得有限联网权限,公司随即叫停最强模型的训练与评估长达 11 天,并建立可在 35 秒内中止模型输出的控制室系统。