METR 报告：Anthropic 用 AI 加速 AI 研发，模型迭代速度翻倍

Anthropic 正在用 AI 打造更强大的 AI。而这一做法似乎成效显著：公司模型的提升速度大约是一年前的两倍，且几乎没有放缓的迹象。

这一结论来自 AI 安全研究组织 METR 于周四发布的一份新报告。该报告基于在 Anthropic 内部为期 11 周的调查，是其 AI 研发评估工作的一部分。此次调查独立于另一项计划——该计划在夏季发生多起备受关注的黑客事件之后，向安全研究人员提供对系统的“类员工”访问权限。

这些发现提供了迄今最清晰的证据之一，表明 AI 正在加速自身的研发进程，也引发了关于这项技术能以多快速度迈向一个 AI 系统几乎无需人类参与即可自我改进的未来的疑问。这些发现出炉的时机对 Anthropic 而言也至关重要——该公司正准备上市，而其 CEO Dario Amodei 却公开呼吁各实验室放慢 AI 研发步伐。

然而，尽管这份报告难得地揭开了全球领先 AI 实验室内部运作的一角，它省略的内容同样耐人寻味。根据与 METR 的协议，Anthropic 获准对最终报告的部分内容进行涂黑处理，而该公司似乎大量行使了这一权力，这引发了人们的疑问：公众对前沿 AI 研发的速度——以及风险——究竟了解多少。

以下是几个最重要的要点。

AI 正在大幅加速 Anthropic 的研发进程

METR 最值得关注的发现之一是，Anthropic 的 AI 模型提升速度大约是一年前的两倍，基准测试分数表明“Anthropic 在过去一年里取得了大约相当于历史上两年的进展”。关键在于，METR 的研究人员表示，他们“有信心”认为这种加速并非仅仅源于训练模型所用算力的扩大，而算力历来是推动 AI 进步的主要因素。

相反，研究人员表示，截至 10 月，大部分加速“归因于 AI”，并且 AI 的贡献随时间推移不断增长。这一发现得到了非正式 Slack 投票以及对 Anthropic 员工访谈的支持，这些证据指向了可观的生产力提升。METR 写道，使用 Anthropic 最强内部模型的员工平均自我报告称，其各自工作的效率大约是没有 AI 辅助时的 12 倍，约为几个月前员工使用 Mythos 5 时所报告水平的两倍。

METR 的报告包含这张图表，展示了 Anthropic 员工在 Slack 投票中对 AI 加速其工作的回应。 图片：METR

目前，这种加速似乎主要来自 AI 辅助人类研究人员，而非 AI 独立工作，不过 METR 警告称，“有一些迹象表明，完全自主的贡献 soon 将发挥更大的作用。”值得注意的是，研究人员表示，他们没有发现明显的收益递减迹象或可观察到的瓶颈，这些因素可能会阻止“更快的加速”。

Anthropic 最新的三款 AI 模型仍未公开

Anthropic 的研究人员正在使用比我们其他人更先进的 AI 模型，METR 所描述的许多加速和生产力提升都可归因于未发布的内部模型。

根据METR的说法，在过去六个月里，Anthropic已经完成了三个尚未发布的模型的训练。开发节奏很快，这些模型——代号分别为Model 2、Model 3和Model 4——分别在7月、8月至9月以及9月至10月完成训练。METR还识别出一个可追溯到2022年的未发布模型，名为Unreleased 2022。“这些是分享给我们的代号；我们了解到它们有不同的内部代号，”研究人员写道。

Anthropic对关键信息保密

作为研究过程的一部分，Anthropic向METR提供了大量非公开信息，包括机密研究、模型性能数据和员工访谈。它本没有义务这样做，而且按METR自己的说法，这家AI实验室“分享的信息超出了本项目最初的范围，超出了我们的预期。”这值得称赞，但值得注意的是，Anthropic并未授予研究人员不受限制的访问权限，也没有给予它上个月宣布的另一个项目中承诺给其他METR安全研究人员的那种“类似员工”的访问权限。考虑到公司即使面对附带重大限制的独立评估也能获得声誉上的好处，这是一个重要的区别。

而且确实存在重大限制。Anthropic有权对METR最终报告中的信息进行删改——而且它广泛行使了这一权力。“我们向Anthropic提交了一份约100页的完整评估报告。对于公开版本，Anthropic删改了我们所发现的最具信息量的证据中的大部分，”METR在X上写道。

METR在整份报告中反复表达了这些担忧，并强调了对其访问权限的其他限制。“我们的信息渠道相对狭窄，我们的一些数据请求被拒绝了。”

METR 反复强调，Anthropic 的删减决定对其传达研究结果的能力、以及让外界评估该公司内部状况的能力造成了影响。METR 指出，许多被删减的证据可能具有“多种合理解释”，这使得公众难以评估其研究结果、理解围绕这些结果的不确定性，并自行判断证据。“由于这些删减，公众不得不远比理想情况下更多地依赖 METR 的判断，考虑到此处所回答问题的分量，这并不理想，”报告写道。

在报告中，METR 表示 Anthropic 以信息公开可能使其竞争对手受益为由为删减辩护。然而，METR 称“大部分被删减的信息都非常宏观”，尽管它表示自己无法就这些删减在商业上是否合理发表评论。

“我们删减了很多内容，我承认这让他人更难核查 METR 的工作，”Anthropic 联合创始人 Sam McCandlish 在 X 上一则回应 METR 研究结果的长篇帖子中承认。“但我们认定，公开究竟是什么在推动这一加速并不妥当，这既因为涉及商业敏感性，也因为这样做有可能为他人提供一张加速发展的路线图，”他说，并补充称这样做会使 METR 所担忧的风险“更加严重”。

McCandlish 表示这是一种权衡，但坚称 Anthropic 在决定删减信息方面做出了“正确的选择”。他说，公司计划“在未来几周内”发布自己关于 AI 进展速度的报告，以及其为加强安全所采取的新举措。

Anthropic 正在加速的正是它警告危险的技术，且速度超出许多人的预期

METR 报告的发布在 AI 安全研究者和评论者中引发了强烈反弹，焦点主要集中在 Anthropic 的 AI 方针核心处一个明显的矛盾：该公司一直是安全和负责任开发的最积极倡导者之一，然而报告表明，它正在帮助加速这项技术迈向许多人认为危险的临界点，同时似乎未能兑现自身对透明度和问责制的承诺。

对一些人来说，这些发现表明，即便是该领域关于 AI 进展最激进的一些预测，也可能过于保守。它们表明，递归式自我改进——即 AI 系统能够在无需人工干预的情况下自主开发出越来越强大的后继系统，从而可能大幅加速发展——或许比此前认为的更近，这引发了人们对现有安全措施能否跟上步伐的担忧。虽然 METR 的报告只涵盖了 Anthropic，但 OpenAI 在 9 月表示，它正在“取得强劲进展”，以在 2028 年 3 月前构建出一个能够“进一步推进深度学习和对齐研究”的 AI 研究员。

该报告提供了证据，说明 AI 加速自身发展的速度究竟有多快

Apollo Research 的首席执行官兼创始人 Marius Hobbhahn 告诉 The Verge，该报告表明，AI 赋能的研究与开发速度甚至比 AI 2027 中所预测的还要快。AI 2027 是一个颇具影响力的情景设想，它预判在 2027 年初会实现通往自我改进的一项关键突破。Apollo Research 为多家领先 AI 实验室开展 AI 安全测试。他表示，这份报告之所以引起如此多的关注，是因为它为一个一直难以明确的问题提供了证据：AI 加速自身发展的速度究竟有多快。

Hobbhahn 表示，这些发现与业内许多人的预期大体一致，或许略快一些。科技政策研究中心 GovAI 的高级研究员 Alan Chan 告诉 The Verge，这些发现应促使持怀疑态度的人重新考虑他们对 AI 加速 AI 发展的立场，并可能缩短他们对何时将拥有能够完全自动化软件工程等任务的系统的时间预期。

在 X 上，其他研究人员对加速速度及其对 AI 发展的影响发表了评论。AI 安全组织 The Nightingale Collective 的创始人兼 CEO、前 METR 研究员 Sydney Von Arx 也将这些发现与 AI 2027 的时间线进行了比较。METR 研究员 Ryan Greenblatt 曾是 AI 安全组织 Redwood Research 的成员，也是获准调查 OpenAI 入侵 Hugging Face 事件的三名外部研究人员之一，他表示自己“在 RSI 加速问题上严重判断错误；我之前预计 2026 年的进展会小得多。”

对 Anthropic 安全方针的不满日益加剧

除了凸显 AI 发展的速度之外，这份报告还加剧了人们对 Anthropic 在推动这一进展中所扮演角色的不满情绪。该公司一直是最积极倡导负责任 AI 发展的声音之一——也从不讳言呼吁他人放慢脚步——但自身似乎正在飞速前进。这份报告只是加剧了上月发布的 IPO 招股书和未来计划本已引发的紧张局势。

Anthropic 以披露更多信息可能帮助竞争对手加速自身发展为理由，对报告进行了大量删减，这一决定引发了虚伪的指责。前 OpenAI 研究员、现运营出版 AI 2027 的 AI Futures Project 的 Daniel Kokotajlo 指责 Anthropic“拿我们的生命鲁莽赌博”，并补充说，该公司以他人进展更快为由删减信息“真是可笑”，因为它“似乎根本没有放慢多少”。

Anthropic 拒绝回答 The Verge 关于该报告及随之而来的批评的问题，而是让我们参考 McCandlish 的帖子。

这些涂黑处理也再次引发了加强对前沿 AI 实验室透明度和独立监督的呼声。今年早些时候，在一系列涉及失控 AI 代理的事件之后，这类呼声升至新高，并紧随着多起失控 AI 代理相关事件而来。AI 政策与战略研究所前沿安全研究主任 Brianna Rosen 对 The Verge 表示，令人担忧的是，实际上是由企业而非政府在决定 AI 研究自动化的走向。“要让民主监督发挥作用，独立评估者需要有权解释他们为何得出这些结论，政府需要自行评估证据，公众也必须信任这一过程，”Rosen 说。“这份报告在证据方面不够透明。”

要求 AI 实验室提高透明度的压力正在加大

Hobbhahn 赞同 Rosen 的担忧，并表示外界对该报告的大部分反应源于 Anthropic 公开的安全立场与其实际行动之间明显存在的差距。他提到，该公司决定取消部分评估，而这些评估原本旨在衡量其将多少算力分配给安全工作、多少用于提升能力。METR 表示，该公司称“这是因为希望暂时将合作重点放在风险评估上，并会在之后重新审视算力分配验证。”

对 Hobbhahn 而言，这一事件凸显了有必要让独立安全研究人员更深入地嵌入 AI 实验室内部，并让他们能够大量接触内部系统和证据。尽管他的组织将从这种安排中受益——Apollo 正采取措施，争取成为前沿实验室的嵌入式评估方——但呼吁加强对 AI 开发监督的远不止他一人。

其他人则呼吁采取更直接的行动。作为直接回应这份报告，纽约州众议员、民主党AI议程的关键塑造者亚历克斯·博雷斯（Alex Bores）呼吁国会“禁止RSI，如果可能的话就在今年”。随着民主党蓝色浪潮——其中许多人曾以反对AI公司为竞选主张——即将上任，更严格限制的前景是非常现实的可能。

而随着AI研究几乎没有放缓的迹象，压力势必会进一步加剧。霍布哈恩表示，他从这份报告中还得到了另一个启示：“做好迎接疯狂的准备吧，”他说，“事情会发展得非常快”，很可能快到社会或政治都难以跟上。