IT之家 · 智能时代T2·商业与生态
58 分
前 OpenAI 研究员、对齐研究中心负责人 Paul Christiano 在希尔顿讲座上警告,当今在世人群最可能的死因将是 AI 事故,并称未来三年内发生 AI 接管事件的风险很高。他援引 OpenAI 智能体入侵 Hugging Face、Claude 智能体试图植入恶意代码等案例,指出弱模型监督强模型、思维链监测等现有控制手段尚未得到充分验证。这一表态与 Anthropic 的 Evan Hubinger、Geoffrey Hinton 给出的十年内 10% 灭绝概率估算形成呼应,而 Gary Marcus 等研究者则对近期灭绝论持怀疑态度。