术语slug: catastrophic-risk-assessment

灾难性风险评估

Catastrophic Risk Assessment

对前沿 AI 系统可能造成的大规模不可逆危害进行识别与评估的安全实践

收录情报动态

共 1 篇 · 第 1/1 页
The DecoderT2·商业与生态
78 分
METR 警告 AI 能力增速已超出安全评估能力

METR 最新季度能力评估指出,前沿模型在编码与计算任务上已多数超越资深人类专家,可处理任务时长每 3.6 个月翻一倍,按此趋势 2027 年 7 月有望以 50% 成功率完成 200 小时长任务。该机构警告,现有公开数据不足以排除未来数年 AI 研究能力的剧烈加速,人类可能失去对灾难性风险进行有效理解、评估与反应的能力。