IT之家 · 智能时代T2·智能体与协同
78 分
OpenAI 宣布在内部研究设施部署“控制室”系统,将智能体训练、评估与数据处理任务接入中央授权服务,可在收到停止指令后最长 35 秒内阻断推理输出。该系统区别于传统被动监控,通过任务 ID 与推理引擎的授权校验实现主动拦截,并为所有前沿强化学习任务配备独立模型监控器。
Control Room
OpenAI 内部的中央任务授权服务,通过任务 ID 校验在推理层主动阻断高风险智能体任务
OpenAI 宣布在内部研究设施部署“控制室”系统,将智能体训练、评估与数据处理任务接入中央授权服务,可在收到停止指令后最长 35 秒内阻断推理输出。该系统区别于传统被动监控,通过任务 ID 与推理引擎的授权校验实现主动拦截,并为所有前沿强化学习任务配备独立模型监控器。