IT之家 · 智能时代T2·商业与生态
62 分
Anthropic 上市首日,前研究员考克森在旧金山总部外联合数十名抗议者,呼吁全面禁止 AI 递归自我改进,即让先进 AI 参与训练下一代模型。METR 报告显示 AI 正加速 Anthropic 研发,Anthropic 招股书亦承认无监督自主设计下一代模型不安全,正考虑修改政策确保人类掌控。
主张暂停或禁止先进 AI 开发的倡导组织
Anthropic 上市首日,前研究员考克森在旧金山总部外联合数十名抗议者,呼吁全面禁止 AI 递归自我改进,即让先进 AI 参与训练下一代模型。METR 报告显示 AI 正加速 Anthropic 研发,Anthropic 招股书亦承认无监督自主设计下一代模型不安全,正考虑修改政策确保人类掌控。