AI 研发自动化

AI 安全研究机构 METR 在对 Anthropic 进行 11 周内部调查后发布报告，指出该公司正用 AI 构建更强的 AI，模型能力提升速度约为一年前的两倍，且几乎未见放缓迹象。报告引发研究者对研发自动化失控风险的警觉，METR 负责人呼吁社会为极速变化做好准备。

Anthropic 在 S1 文件中表示可能“即将”触及负责任扩展政策中“AI 显著加速 AI 研发”的阈值，即整体能力进展达到 AI 参与前最快持续速度的两倍，且可归因于 AI 自动化研发。METR 相关公开报告与外部评论认为这一判断具有实质分量，但具体证据与未删节数据尚未公开。