术语slug: model-monitor

模型监控器

Model Monitor

为每个前沿强化学习任务配备的独立检查组件,用于识别模型行为异常并触发警报

收录情报动态

共 1 篇 · 第 1/1 页
IT之家 · 智能时代T2·智能体与协同
78 分
OpenAI 部署控制室系统 35 秒叫停失控智能体

OpenAI 宣布在内部研究设施部署“控制室”系统,将智能体训练、评估与数据处理任务接入中央授权服务,可在收到停止指令后最长 35 秒内阻断推理输出。该系统区别于传统被动监控,通过任务 ID 与推理引擎的授权校验实现主动拦截,并为所有前沿强化学习任务配备独立模型监控器。