微软宣布 Maia 300 芯片将取代 NVIDIA 成为主要推理引擎：多芯粒架构实现每兆瓦 Token 吞吐提升 40%

Rohan Paul (@rohanpaul_ai) · 2026-10-12 13

Satya Nadella 正式宣布，Microsoft 将把其自研的 Maia 芯片作为旗下产品的核心推理系统，并扩展至数吉瓦（gigawatts）规模。

这将降低 Microsoft 对 NVIDIA 硬件的依赖，且 Maia 300 旨在替代 AMD 芯片，而不仅仅是 Nvidia。其关键宣称是：相比领先的基于 GPU 的系统，Maia 300 每兆瓦可处理多 40% 的 token。

一个完整机架在 167kW 功耗下集成了 96 个加速器，配备 27.6TB 的 HBM，Microsoft 声称其 token 吞吐量最高可达 Maia 200 机架的 7 倍。

这一转型将于 2027 年启动，届时将部署 Maia 300——一款专为长上下文推理、低延迟聊天和多步 agent 任务打造的第三代加速器。

其前代产品 Maia 200 已服务于包括 Microsoft Copilot 在内的生产流量，Microsoft 声称 Maia 200 每瓦产生的 token 数量比领先的 GPU 基础设施高出最多 1.7 倍。

Maia 300 致力于解决数据移动成本问题，Microsoft 表示，如今数据移动成本对大型推理系统的限制已超过原始算术运算本身。

Maia 300 采用“多芯粒”（multi-chiplet）设计。传统芯片是一整块硅片，承担所有功能：数学计算（compute）、内存管理（memory controller）以及与其他芯片通信（I/O）。Maia 300 则将这些任务拆分为若干较小的硅片单元，称为 chiplets，并将它们封装在一起，使其表现得如同一颗单一芯片。这样便为实际运行 AI 数学运算的计算 chiplets 留出了更多空间，且每个 chiplet 均可采用最适合其任务的制造工艺进行生产。

每个芯片搭配 8 个 HBM4 堆栈，提供 18.0 TB/s 的峰值带宽，TDP 为 950W，并使用片上 SRAM 作为暂存器（scratchpad）以缓解内存压力。

支持增强型 MXFP4 等低精度格式可缩小 KV cache（即随每个 token 增长而存储的注意力状态），从而在相同功耗预算内容纳更长的上下文。

供应是更严峻的制约因素，据报道，Microsoft 正与台积电（TSMC）就 2027 年交付超过 300,000 台 Maia 300 进行谈判，但该数字仍处于协商阶段，尚未签署正式采购订单。

↳ 引用 @satyanadella (Satya Nadella): 今天，我们宣布了对自研芯片的最大规模押注。

从下一个日历年开始，我们将把 Maia 系列扩展至多吉瓦（multi-gigawatt）规模的部署，使其成为我们自家产品和服务的主要推理系统。

同时，我们推出了 Maia 300，其每瓦特生成的 token 数量比领先的基于 GPU 的系统高出 40%。

我们已经在北美、欧洲和澳大利亚部署了 Maia 200，在 Teams 和 Copilot 的体验中实现了高达 1.7 倍的每瓦特 token 生成效率提升。

我们的目标是在已实现的全栈效率增益基础上继续发展，同时持续将生态系统中的最新创新成果引入我们的硬件集群。