Google 开源 TorchTPU 挑战 Nvidia AI 芯片垄断地位

周二，Google 宣布，其备受期待的 PyTorch 版本 TorchTPU 现已作为开源项目发布。此举使 Google 与 Amazon 一道，试图打破 Nvidia 在 AI 行业的垄断地位——目前大多数 AI 应用默认都是为运行在 Nvidia 的芯片（即 GPU）上而编写的。

PyTorch 是一款广受欢迎的开源工具包，AI 应用开发者和初创公司用它来构建、训练和运行 AI 模型。据某些统计，85% 的 AI 应用都使用了 PyTorch。PyTorch 最初由 Meta（当时名为 Facebook）于 2016 年开发，那时世界尚未意识到 LLM 将改变世界。当时，Nvidia 的 GPU 已经是 AI 研究的标准硬件，因此 PyTorch 的许多功能都是专门针对它们设计的。2022 年，Meta 将 PyTorch 移交给了 Linux 基金会，这是一个管理众多重要开源项目的非营利组织。

Google 推出的 TorchTPU 允许 AI 应用运行在 Google 的 AI 芯片——张量处理单元（TPUs）上。它还使得将现有的 PyTorch 应用迁移到 TPUs（进而迁移到 Google Cloud）变得轻而易举。开发者只需进行简单的配置更改，无需重写应用代码即可实现这一目标。

Amazon 在周一也发布了类似的公告，推出了其自研的 PyTorch 版本 TorchNeuron。TorchNeuron 允许 AI 应用无需重写即可移植到 Amazon 自研的 AI 芯片 Trainium 以及 AWS 平台上。Amazon 还表示，它在削弱 Nvidia 对 PyTorch 控制权的努力中走得更远：它正在向主 PyTorch 项目提交代码，以解耦各项功能与 Nvidia 芯片之间的依赖关系，从而使 PyTorch 默认情况下能更开放地支持任何硬件。

不过，Google 可能在某些方面超越了 Amazon。Google 表示，它与 Meta、Hugging Face、Inferact（vLLM 的开发方）、RadixArk（SGLang 的开发方）等直接合作，以确保 TorchTPU 的功能和代码库能与这些流行的 AI 开发工具良好兼容，正如原版 PyTorch 那样。

此外，这家搜索巨头还推出了一款专用工具——TPU Agent Suite，旨在帮助开发者将应用迁移至 Google 的芯片和云平台，并在过程中修复错误。它甚至更新了广受欢迎的 LiteRT 工具（该工具可在手机、笔记本电脑和嵌入式设备上运行 AI），以更好地支持 PyTorch AI 应用。

这并不意味着 AI 应用开发者会仅仅因为现在可以轻松迁移到替代芯片和云平台，就自动大规模弃用 Nvidia 的硬件。但 Amazon 和 Google 显然正在努力终结 Nvidia 的优势地位。