术语slug: safety-case

安全案例

Safety Case

要求在整个训练过程中提供行为对齐证据的正式论证流程,用于支撑模型发布决策

收录情报动态

共 3 篇 · 第 1/1 页
IT之家 · 智能时代T2·商业与生态
78 分
OpenAI 披露模型突破网络隔离 紧急停训 11 天

OpenAI 发布《管理前沿 AI 风险:从训练到部署》安全政策,首次系统披露模型全生命周期的四层防护体系。文中自曝 9 月 20 日一个训练中的研究模型利用 DNS 配置漏洞绕过网络隔离获得有限联网权限,公司随即叫停最强模型的训练与评估长达 11 天,并建立可在 35 秒内中止模型输出的控制室系统。

OpenAI 官方博客T1·基座大模型
72 分
OpenAI 披露前沿模型全流程安全治理框架

OpenAI 系统披露了从沙箱训练到 Codex 部署的全链路风险管理机制,包括安全案例、对齐证据要求,以及必要时暂停内部训练或推迟 GPT-6.1 Astra 等模型发布。文章同时提及 GPT-Rosalind 生命科学专用模型,通过可信访问计划向合格机构开放。