OpenAI 用前沿模型加速自研芯片设计
OpenAI 披露其前沿模型在自研推理芯片 Jalapeño 设计中实现了专家级 PPA 优化,并正将同一方法扩展至 AMD 硬件。同时,OpenAI 与 Synopsys 合作推出 GPT-Synopsys 模型,将前沿智能接入工程师日常使用的 EDA 工具链。
报道正文
本文目录5 个章节
OpenAI 的模型正在快速改进驱动 AI 的芯片。今年 8 月,我们分享了 OpenAI 工程师如何利用我们的前沿模型加速开发我们的首款定制推理芯片 Jalapeño。在此,我们将更深入地探讨 Jalapeño 性能提升背后的专家级设计改进,以及我们如何将同样的方法应用于 AMD 的第三方硬件,以实现显著提升。
为了衡量我们的模型在端到端芯片设计任务中的能力,我们在两个开源处理器设计上评估了 successive generations,并得出了有趣的发现。为了让能力发展建立在可信的评估者之上,我们正与 Synopsys 合作,将前沿智能与工程师们已经用于设计和验证芯片的电子设计自动化(EDA)工具集成。
改进 Jalapeño 的计算模块
我们在 2025 年初开始使用 GPT‑4o 帮助设计 Jalapeño。即便是那个早期模型,也找到了实现非平凡 PPA 改进的方法,例如:
在向量单元中,该单元负责管理和执行并行计算任务,节省来自浮点加法器和乘法器、转换函数、归约逻辑以及特殊函数单元。模型探索了替代的逻辑实现方式,以及如何将计算划分到流水线各阶段,找到了共享硬件和减少中间存储的机会。
在矩阵单元中,这是一个算术组件,改进累积在浮点加法器、乘法器和低精度点积电路上。一次乘法器重新设计在综合时使用的单元面积减少了约 15%,同时将延迟从两个时钟周期降低到一个。另一次加法器重新设计将单元面积减少了约 15%,同时保持其两周期延迟。对点积逻辑和流水线组织的进一步改进为该模块带来了额外的节省。
在整个 Jalapeño 设计工作中,团队估计模型提出的更改使向量单元的标准单元面积减少了约 13%,矩阵单元减少了约 10%。这些优化在Jalapeño 的硅片启动过程中得到了硅验证。
我们与 AMD 的合作
我们与 AMD 合作改进了 PPA,在旗舰 GPU IP 上,相较于经过高度优化的基线,我们观察到了最高 14% 的提升。我们的模型通过重写描述芯片电路的代码(SystemVerilog RTL),识别出了进一步的改进空间。这相当于在不到 5 个月的时间里取得了大约一年的进展——这是芯片设计前沿前所未有的成果。AMD 已将其中一些变更纳入其近期送交制造的设计中,并将其他变更添加到其生产设计文件中,以供未来版本使用。
我们观察到该模型能够以专家级微架构师的水平对 RTL 进行推理。该模型可以重写执行计算、控制操作或数据移动的电路。它使用 Synopsys 工具来验证每次重写都保持了模块的行为,并评估功耗、性能和面积方面的权衡。
AMD 还使用我们的模型编写的设计,验证了其即将推出的下一代旗舰 CPU 的关键模块在 PPA 上取得了个位数百分比的增益。展望未来,我们预计在 GPU 和 CPU 上,相较于最优化的基线,将取得进一步的 PPA 改进。
优化 RISC-V 核心
我们在 Jalapeño 和 AMD 芯片上的结果表明,模型可以在生产设计中做出改进。为了衡量从一代模型到下一代模型在芯片设计能力上的进步,我们在两个开源 32 位 RISC-V 核心上测试了每个模型。PicoRV32 是一个为可重编程芯片(称为 FPGA)设计的紧凑型核心。OpenTitan 在其安全芯片中使用 Ibex 作为嵌入式处理器。两者都是面向嵌入式、微控制器级工作负载的完整处理器核心。
我们向每个模型提供了每个核心的原始硬件描述,并要求它提高吞吐量(核心每秒可执行的指令数)。例如,一项变更可能让核心在更少的时钟周期内完成一条指令,但使每个周期耗时更长。测量吞吐量可以同时捕捉这两种效应。
我们在仿真中检查了每个设计的输出。如果设计未通过检查,或所用面积超过原始核心面积的 16 倍,则得分为零。对于通过检查的设计,我们在对模型隐藏的工作负载上测量了每时钟周期指令数。我们取这些工作负载的几何平均值,再乘以用 Yosys 估算的最高时钟频率。这样我们就得到了每秒指令数的估计值。对于每个核心,我们将相同约束下观察到的最佳吞吐量设为 1.0 分。图表显示的是各次运行的平均得分,包括得零分的运行。
在每次运行约 112,000 个 token 的可比预算下,GPT‑6.2 Astra 在两个核心上的平均得分都最高。GPT‑6.1 Sol 在两个核心上的得分也都高于 GPT‑5.6 Sol。
在现有的 PicoRV32 核心上,在较大的可比预算下,GPT‑6.2 Astra 的平均得分最高。在约 112,000 个 token 时,其得分约为 GPT‑6 Astra 的两倍。
在现有的 Ibex 核心上,GPT‑6.2 Astra 的平均得分在其达到的较高预算范围内持续攀升。GPT‑6 Astra 和 GPT‑6.1 Sol 的差距较小。
根据规格设计 RISC-V 核心
对于第二项任务,我们向每个模型提供了书面要求,以及来自开源代码的模板,这些模板展示了核心如何与系统其余部分连接。模型自行决定数据如何在核心中流动,以及如何将工作划分为多个阶段。对于每个核心,我们保持正确性检查、内存和缓存设置以及吞吐量目标与 RTL 优化任务中相同。
在每次运行约 112,000 个 token 时,所有五个模型在根据书面要求设计核心时的得分,都高于它们尝试改进现有设计时的得分。这一点在 PicoRV32 和 Ibex 上都成立。GPT‑6.2 Astra 在 Ibex 上的提升大于在 PicoRV32 上的提升。完整评估包括两项任务、两个核心和所有 token 预算下的 9,881 次计分运行。
从 PicoRV32 规格出发,GPT‑6.2 Astra 在接近 112,000 个 token 时平均得分超过 0.7,并在接下来观察到的两个预算下得分更高。
在 Ibex 上,GPT‑6.2 Astra 根据规格设计时,在接近 112,000 个 token 时平均得分约为 0.75。在较大的共享预算下,其曲线始终高于其他模型。
从书面需求出发,为模型留出了省略原始核心中某些功能的空间,例如性能计数器和额外指令。这些功能对提升测试工作负载的吞吐量可能作用不大,这或许能部分解释分数上的优势。要求包含这些功能、对电路面积设定更严格的限制,并在物理综合后检查时序,将使测试更能代表实际生产中的芯片设计。
下一步
我们已经证明,我们的模型能够在 RISC-V 评测中探索新的处理器架构,并在 Jalapeño 以及 AMD 下一代旗舰 GPU 和 CPU 等复杂生产设计的基础上,贡献了净新增的改进。为了让模型开发扎根于可信的评估器,并拓宽所应对的设计挑战,我们正与 Synopsys 合作训练 GPT‑Synopsys(在新窗口中打开),这是一个新模型,旨在像专家芯片设计师那样使用 Synopsys 电子设计自动化(EDA)工具。