新智元 (微信公众号)T2·72 分
奥特曼为递归自我改进划红线 引入外部机构驻场监督
原标题:奥特曼给「AI造AI」踩刹车!方向盘必须握在人类手中
- 奥特曼区分两层:AI 已实质加速 OpenAI 模型研发,但距离无人监督的自主迭代仍很远
- OpenAI 引入 METR 等外部机构驻场评估,承认内部自查难以支撑安全论证
- 递归自我改进被定位为渐进过程而非某个突变节点,与 AGI 叙事同构
AI 聚合热点事件 · 2026/11/19
奥特曼在 Semafor 活动上明确表示,OpenAI 虽已借助 AI 加速新模型研发,但不会在无人监督下让模型自主设计下一代,递归自我改进暂不推进。同时 OpenAI 引入 METR 等外部评估机构驻场审查,以第三方监督替代内部自查。
曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。
原标题:奥特曼给「AI造AI」踩刹车!方向盘必须握在人类手中