OpenAI 披露内部研究加速量化指标

原标题:Research acceleration: The jagged frontier
72AI 研判分

OpenAI 发布研究加速进展更新,基于内部测量数据量化编码智能体对 AI 研发周期的加速幅度,并首次系统披露各研究领域的 AI 增益差异与人类参与环节。报告同时提出实验室应追踪并公开递归自我改进(RSI)指标,为前沿安全政策提供依据。

报道正文

本文目录21 个章节

引言

在过去一年中,AI 系统的能力日益增强,这可能提升它们为 AI 研究与开发本身做出贡献的能力。今天,我们基于对编码智能体如何加速并改变 AI 开发周期的内部测量,提供关于 OpenAI 研究加速现状的最新进展。

本报告建立在我们九月份关于 OpenAI 研究加速⁠ 的博客文章基础之上,新增了关于以下两方面的定量与定性衡量指标:(1) AI 在各研究领域带来的提升,以及 (2) 人类如何继续参与研究过程。总体而言,我们相信本次更新提供了一个更广泛——尽管仍不完整——的视角,来呈现 OpenAI 的研究正在如何变化。

我们分享这项工作,是因为正如我们在 前沿政策蓝图⁠ 中所写、并在我们的首份 研究加速报告⁠ 中重申的那样,我们认为应当要求 AI 实验室追踪并公开报告递归自我改进(RSI)的指标——即 AI 加速未来 AI 系统开发的进程。

随着能力不断提升,以及 AI 驱动的显著研究加速变得越来越可能,我们将需要解决新的技术与治理问题,以维持人类监督并 安全地扩展 AI 系统⁠。因此,关于 RSI 指标的透明度对于为公众讨论日益强大的 AI 的能力、风险及所需保障措施提供信息至关重要;然而,我们的报告不应被解读为有意追求完全 RSI。我们欣慰地看到,其他几个组织最近也为不断增长的 AI 研发加速测量工作做出了贡献1。我们希望这份扩展后的报告将有助于维持并推进全行业这些共同的测量规范。

我们将本报告分为三个部分,每部分聚焦于 AI 研究的不同方面:

  1. AI 研究的输入(我们重点关注编码智能体;其他输入包括数据、人力劳动和算力)
  2. 研究人员将这些输入转化为模型能力的过程(AI 研究)
  3. 我们从 AI 研究过程中看到的输出(模型能力的提升)。

我们认为,以这种方式组织结果,能够提供一个有用的框架,用于思考 AI 如何被用于研究,以及这种使用可能如何促进模型能力的提升。

输入

AI 研究使用多种输入,包括数据、AI 工具(例如编码智能体)、人力劳动和算力。在本报告中,我们重点关注 AI 工具作为研究的一种输入。具体而言,我们记录了编码智能体的使用强度如何因团队而异,以及如何随时间变化。此外,虽然我们没有直接报告劳动力成本的变化,但我们考察了研究劳动力支出占比相对于其他要素支出随时间的变化情况。

内部智能体使用情况

自我们的第一份报告⁠发布以来,研究组织内部的智能体 AI 使用量持续呈指数级增长。按 API 标价计算,中位数研究人员目前每天在智能体 AI 工具上花费约 2,400 美元,第 90 百分位研究人员目前每天花费约 23,000 美元,分别较 9 月份的 1,500 美元和 11,000 美元增长了 62% 和 105%。2 智能体使用量增加这一趋势涵盖了多种变化,包括活动量增加、转向更昂贵的模型,以及模型行为和智能体框架的变化。

智能体工作日

接下来,我们考察每位研究人员每天平均的“智能体工作日”数量,其中我们将每八小时的智能体使用定义为一个智能体工作日。与智能体支出不同,智能体工作日能更好地反映智能体用于工作的“实际耗时”,但不考虑模型能力或定价的变化。

总体而言,每位研究人员的智能体工作日已从每位研究人员 0.5 个智能体工作日上升至 5.7 个智能体工作日,增长了十一倍,其中增幅最大的是专注于预训练和后训练(posttraining)的团队。在这些团队中,智能体运行时长平均约为每位研究人员每个日历日八个工作日。在扩展与基础设施(scaling and infrastructure)方面,平均值约为四个。我们注意到,该工作日指标通常仅包含交互式使用,因此可能低估了自动化部分。

并发智能体使用

我们的九月分析⁠曾指出,研究人员对并发智能体的使用日益增加,包括子智能体和多会话。我们在时间上进一步扩展了该分析,并提供了更细粒度的分桶。截至十月中旬,超过三分之二的纳入研究人员平均每日峰值至少有四个智能体并发工作,超过 10% 的研究人员平均至少有十六个并发智能体。

内部智能体使用相对于人力成本

接下来,我们将智能体 AI 使用的月度 API 等效支出与人类研究人员的月度非股权薪酬进行比较。我们追踪这一比率,以观察随着模型能力提升,智能体劳动与人类劳动之间的分配如何变化。尽管我们报告的比率排除了股权——股权通常占 OpenAI 研究人员目标薪酬的 70% 至 80%——但我们认为它仍能为这一支出分配提供一个部分但有信息量的视角。

截至 2026 年 9 月,OpenAI 研究组织中智能体 AI 使用的 API 等效价值约为其非股权薪酬的两倍,其中预训练和后训练部门的比率高于研究组织其他部门。尽管如此,内部部署(结合内部 Codex、ChatGPT 和 API 使用)仅占研究总算力的 2%。

人力成本包括工资、加班费、奖金、福利和雇主税。股权通常占研究人员目标薪酬的 70% 至 80%,未计入其中。

研究人员如何分配时间

最后,我们考察研究人员如何在各研究领域之间分配时间。我们首先以公司公开的 Slack 帖子、pull request 和内部文档的形式,收集了 2026 年 1 月至 9 月期间研究人员个人层面的贡献。随后,我们使用分类器将这些贡献归入各研究领域,并将每位研究人员的每一周时间在其当周经核实的项目之间平均分配。这为我们提供了一个代理指标,用以反映研究人员将注意力投向何处。

重要的是,与我们的其他分析不同,我们在此分类的“研究领域”并不对应正式的汇报关系。例如,一名 posttraining 团队的研究人员若将一半时间用于基础设施改进,则会被估算为向 Scaling / Infrastructure Contributions 贡献半个工作周,向 Posttraining Contributions 贡献半个工作周。这使我们能够稳健地衡量研究人员实际将时间花在哪里,即使他们并未正式转组。

我们发现,在 2026 年全年,投入到我们所识别的各个领域的研究人员时间总量都有所增长。值得注意的是,采用这一方法,我们发现 Safety & Alignment 在所有研究领域中绝对增幅最大,自年初以来有记录的工作周贡献几乎翻倍,这得益于新员工加入以及现有研究人员将重心转向安全项目。该研究领域涵盖 alignment evals、monitorability 和 reward hacking 研究等工作流。我们在 Safety & Alignment 增长中测到的一个显著拐点,与 7 月 Hugging Face 事件⁠之后的情况,以及 OpenAI 随后为前沿 AI 训练开发并改进安全案例⁠所做的工作相吻合。

我们注意到,各研究领域之间的区分,尤其是 posttraining 与 safety and alignment 之间的区分,并非微不足道,我们可能会随时间推移迭代其定义。下文的方法部分描述了高层工作流的示例。

流程

为了更好地理解智能体的使用可能如何影响研究生产力,我们接下来考察 OpenAI 开展 AI 研究的过程正在如何变化。新技术带来的生产力提升,部分取决于工作如何围绕这些技术进行重组。随着智能体能力的提升,研究人员可能会改变他们委托给 AI 的任务、监督和协调智能体工作的方式,以及他们选择推进的项目。下面,我们同时报告定量和定性两类指标,以说明 AI 正在如何改变 OpenAI 开展 AI 研究的过程。这些不同类型的数据共同勾勒出一幅(部分)图景,展示研究人员如何围绕智能体重组工作,以及研究人员如今如何保持在回路之中。

研究活动的衡量指标

委托给模型的任务与成功率

我们的九月分析⁠显示,智能体在无需人工干预的情况下成功完成任务的可能性有所提高,其中包括估计需要数小时人工工作量的任务。采用更新后的方法(见下文方法部分),我们发现这一趋势总体上仍在延续。重要的是,随着智能体能力增强,研究人员在每个时长区间内委托的任务类型也可能发生了变化。因此,这些区间内零干预成功率的变动,可能既反映了能力的提升,也反映了研究人员在使用智能体的时机和方式上不断变化的选择。

除了按预估时长划分的这些趋势外,我们还考察了成功率在研究人员可能选择委托的不同类型任务之间的差异。我们使用 Epoch AI 开发的 O*NET AI R&D 分类法⁠(在新窗口中打开),按类别和任务报告了预估成功率。不出所料,我们的结果表明,模型并非在所有任务类别上都同样出色:例如,从 2026 年 8 月 1 日到 2026 年 10 月 18 日,在无人工干预情况下的预估成功率,Communicate(69%)和 Analyze(58%)高于 Build(43%)。同样,在任务层面,监控运行以发现问题(79%)和回答技术问题(72%)等任务的预估成功率较高,而为推理与服务栈编写代码(25%)以及构建评估、强化学习和智能体环境(29%)等任务的预估成功率较低。只要模型在 AI R&D 相关任务上的表现存在异质性,表现较低的类别和任务就可能成为整体提升幅度达到高水平的瓶颈。

研究人员将智能体用于哪些任务

我们九月的分析⁠使用相同的 O*NET AI R&D 分类法⁠(在新窗口中打开),报告了研究员工的 AI 使用如何按输出 token 分布。下面,我们报告研究人员使用编码智能体完成各项任务的频率。与启动和监控训练运行或实现复杂功能等 token 密集型任务相比,这相对更侧重于回答技术问题等短任务。

研究人员对 AI 使用的看法

接下来,我们转向研究人员自己对 AI 如何改变其工作的评估。通过问卷调查和访谈,我们考察了研究人员如何评价编码智能体、他们如何产生研究想法,以及他们如何调整自己的工作流程。

编码智能体自我报告的价值

从 2026 年 8 月下旬到 9 月上旬,我们对 101 名研究人员进行了一项调查,以了解 AI 带来的提升,调查围绕以下假设情境展开:“假设贵团队在未来 3 个月内被撤销对所有优于 GPT-5.2 的编码智能体的访问权限。你愿意付出多大代价来恢复前沿编码智能体?”研究人员报告的中位数意愿是交换:

  • 团队人数的 40%
  • 当前团队算力的 30%
  • 如果这个问题是在 2027 年 1 月提出的,则为团队算力的 50%(考虑到他们对于到 2027 年模型将如何改进的预期)

研究人员还报告称,如果不允许他们使用编码智能体(即只允许他们使用 GitHub Copilot + ChatGPT),他们的团队平均需要三个月才能完成与其上个月工作等值的工作量。虽然必须指出自我报告准确性可能存在的问题,以及我们调查抽样策略的临时性,但这些结果与研究人员认为 AI 对其工作有显著提升作用的看法是一致的。

柱状图显示各区间答案的加权占比。虚线标记加权中位数。

在 10 月下旬的另一项调查中,我们还询问受访者,在使用我们最新的内部模型,还是在一位职业中期的真人研究工程师加上 2024 年模型(如 o1-preview)的帮助下,他们预期在日常工作中哪个生产力更高。28 名受访者中有 27 人选择或倾向于最新的内部模型。其余受访者没有在所给的两个选项之间做出选择,并表示他们会选择 GPT-6 Astra 而非人类辅助选项。

大想法从何而来

我们也有兴趣追踪 AI 驱动想法生成方面的进展,因为发展和评估概念性研究想法(研究品味)的能力可能是递归自我改进的瓶颈。为了衡量这一点,我们请三个领域(预训练、后训练和安全监控)中各自做出关键贡献的一到四名研究人员,说出他们认为对 GPT-6 Astra 和 GPT-6.2 Astra 发布最重要的一个到三个想法。然后我们询问这些想法是如何产生的,以及 AI 在其中的发展过程中发挥了什么作用(如果有的话)。

对于这两个版本,后训练和安全监控研究人员表示,据他们所知,他们提到的所有想法都是由人提出的,模型帮助实现了这些想法。预训练研究人员同样将他们为 GPT-6 Astra 确定的想法完全归功于人。

对于 GPT-6.2 Astra,预训练研究人员描述了在与 Codex 对话中发展想法的过程。其中一人称赞 Codex 在他们共同推进一个想法时识别出了关键洞见。另一人表示主要想法是自己的,但只有在 Codex 建议做出改变之后,这个想法才开始顺利运作。

研究工作流程的变化

最后,为了获取关于工作流变化的定性证据,我们还访谈了十位来自预训练、后训练和安全团队的研究人员,了解他们如何使用智能体。在这些访谈中,浮现出五个主要主题,我们总结如下:

  • 研究人员使用智能体来实现代码、调试和监督实验:

    • “我曾经移植过一个开源评测,当时要围绕‘这是不是一个好的评测’开展研究和消融实验,工作量要大得多。可能需要一周半到两周才能真正走到‘我们能不能用这个’这一步。而现在,取决于具体评测,从零到跑起来只要一天,也许几天。”
      ——研究员 7,安全方向,从事评测工作
  • 智能体在研究想法、代码质量、数据质量和写作方面品味不佳:

    • “模型通常无法一次性提出它自己解决不了的、表述良好的问题。而且如果你让模型生成一个数据点一百次,它每次都会生成相似的数据点。”
      ——研究员 2,安全方向,从事强化学习环境工作
  • 工作流需要密切的人工参与,以避免低质量产出和无效循环: 智能体难以高效地启动实验,会在不必要的步骤上钻牛角尖,写出“AI 垃圾”PR,产出不可用的数据工件,并做出无效的分析假设。

    • “我试过说‘就把这个任务做成那个任务那样’,结果被坑了太多次——它做得不太对,我还得自己改。现在我会说‘先去做一个。我来审阅并修改。然后再去做剩下的。’”
      ——研究员 1,后训练方向,从事评测工作
  • 研究人员预期当前瓶颈领域会有显著改善:

    • “我确实认为我在想法方面更有品味。但我没有信心这会在任何显著长的时间内持续成立。”
      ——研究员 8,预训练方向,从事架构和数据工作
  • 研究人员从大规模扫描和生成内容中看到了巨大提升: 研究人员使用模型扫描数千个样本,以诊断实验中的问题、标记模型行为中令人担忧的实例,并构建和质检新数据集。

  • “我最近做的一件事是梳理我们所有的数据……我让它跑了几轮,并对它给出的结果做了校准。……它给了我一张非常漂亮、内容齐全的大表,所有东西都整理得井井有条。……如果没有 AI,这会非常痛苦。” ——研究员 3,后训练方向,从事数据质量工作

产出

除了研究输入和工作流程的变化之外,我们还想了解 AI 的使用是否正在加速研究进展。为回答这一问题,我们提出三项衡量指标。其中两项——代码行数和研究实验数量——已纳入我们的九月分析⁠。这些指标易于追踪,但这些研究活动指标的增长并不必然意味着研究进展加快。因此,我们还引入了 OpenAI ECI,这是 Epoch Capabilities Index 的 OpenAI 内部专用版本,作为一种追踪模型能力变化的方法,以更直接地衡量研究成果。

变更的代码行数

我们首先报告每位活跃贡献者随时间变更的代码行数。相对于 2025 年之前的平均水平,这一指标在 2026 年期间持续大幅上升。请注意,自我们的九月分析⁠以来,我们已做出若干方法上的更新。我们现在展示的是 28 天滚动平均值,而非季度平均值,从而更细致地呈现随时间的变化。我们还修订了纳入统计的代码变更标准(特别是排除测试),详见方法部分。

研究实验

与我们的九月报告⁠一样,我们还追踪每位活跃实验者随时间运行的实验数量。在截至 10 月 18 日的四周内,每位活跃实验者记录的实验数量平均为 2025 年基线的 1.68 倍。

OpenAI ECI

最后,我们报告一项旨在衡量我们模型能力进展的指标。 Epoch Capabilities Index⁠(在新窗口中打开) 被广泛用于衡量通用 AI 能力的进展趋势。OpenAI ECI(OECI)背后的方法论与 Epoch 的方法论非常相似,但 OECI 结合了公开基准和 OpenAI 内部基准。在这里,我们绘制了 20 个公开发布的 OpenAI 模型和 28 个其他模型的 OECI 图表。

我们发现,自 2025 年 8 月以来,OpenAI 模型的 OECI 前沿每年提升 16.4 分,而 Epoch 观察到的自 2024 年末以来的趋势为 每年 14 分⁠(在新窗口中打开)。请注意,OpenAI 模型在 OECI 上相对于竞争对手的得分高于它们在 Epoch 的 ECI 上的得分,这可能是由于基准组合的差异。

我们计划继续监测 OpenAI ECI 和其他顶层能力指标,以判断能力进展是否因 RSI 而加速。

竖线为 90% 自助法置信区间。趋势线基于 9 个创纪录的 OpenAI 发布版本拟合。

结论

总体而言,我们的发现扩展了我们 9 月报告⁠ 所呈现的图景:研究人员正在更密集地使用智能体,委派更多工作,并围绕模型的能力和局限调整他们的工作流程。然而,这种提升并非在所有研究工作流程中都是均匀的,如今的智能体仍然存在显著缺陷。

我们注意到,我们报告的历史趋势和指标(涉及大量人机协作)可能无法预测未来由 AI 驱动的进展。例如,我们最近看到前沿模型在 数学⁠ 领域产生了突然而迅速的突破。随着我们的模型在研究中变得越来越自主和有能力,我们正在监测深度学习中是否会出现类似的快速突破。

重要的是,随着 AI 越来越擅长自我改进,竞争压力和治理挑战将会增加,而一项 关键任务⁠ 将是确保人类仍然是这一过程的一部分。我们希望发布这些数据能够为关于模型能力节奏和递归自我改进治理的讨论提供信息。

未来,我们将继续完善此处所报告指标背后的方法。我们也希望扩展报告范围,在多个领域提供更多信息,包括但不限于:

  1. 能力研究与安全研究的差异化加速
  2. 研究加速的先行指标(即无需完成完整的模型开发与评估周期即可检测到能力提升的增加)
  3. 整体能力随时间变化的趋势,以及 AI 对研究的加速对这些趋势的影响

引用