AWS 发布 TorchNeuron 助 PyTorch 应用无缝迁移至 Trainium 芯片

周一，亚马逊云科技（AWS）发布了一款名为 TorchNeuron 的工具，旨在帮助 AI 初创公司轻松将其 AI 应用迁移至亚马逊的自研 AI 芯片 Trainium。此举直接挑战了英伟达凭借软件优势确立的行业地位——正是这一优势使英伟达成为 AI 应用的默认硬件选择，并推动其崛起为首选的 AI 硬件供应商。

TorchNeuron 兼容 PyTorch，这是一个开发者用于构建、训练和运行 AI 模型的免费开源工具包。据亚马逊称，该工具允许使用 PyTorch 编写的 AI 应用仅需修改一行配置即可在 Trainium 上运行，无需重写代码。

亚马逊表示，约 85% 的 AI 应用是基于 PyTorch 编写的。PyTorch 最初由 Facebook 开发，但自 2022 年起已归入 Linux 基金会旗下，由其负责维护这一开源项目。多年来，英伟达一直确保其 CUDA 软件（即支持应用在英伟达 GPU 及其他硬件上运行的软件基础设施）能够无缝支持基于 PyTorch 编写的 AI 应用。因此，英伟达的硬件现已深度嵌入该工具包中，实质上已成为默认选项。

TorchNeuron 源自 PyTorch，因此熟悉 PyTorch 的开发者已经知道如何使用它。亚马逊并非首家尝试将自家芯片便捷接入该平台的公司。PyTorch 用户也可以通过简单的配置更改，将应用移植到 AMD GPU 甚至苹果芯片上。

然而，亚马逊认为，迁移到 Trainium 不仅操作简单，还能让 AI 初创公司接入亚马逊完整的云服务生态。不出所料，AWS 声称对于初创公司而言，这比使用“新云”（neoclouds）是更好的选择，因为许多新云服务商（如 Coreweave、Nebius 和 Firmus）都与英伟达及其硬件紧密绑定。

AWS Annapurna Labs（负责制造亚马逊定制芯片的部门）技术软件副总裁 Colin Brace 通过电子邮件向 TechCrunch 表示：“你在 AWS 上构建业务，而不是押注于单一用途的计算提供商，然后手忙脚乱地围绕它构建其他一切。”他继续说道，“在 AWS 上，从原型到生产所需的基础设施已经就绪，这让创始人能够快速行动并在需要时进行扩展。”

AWS 表示，由于同一款芯片既能处理训练（教授 AI 模型），又能处理推理（部署完成后的模型以响应用户查询等任务），且与初创公司所需的云基础设施紧密集成，因此即使 AWS 不提供最低的每 token 价格，其云服务仍能为客户节省成本。

“Trainium 的价值在于其性价比，以及它作为训练和推理的统一平台，从而优化了整体工作负载的经济性，”Brace 表示。“看看 Deepgram——他们迁移到了 Trainium，使用原生 PyTorch 支持，在保持生产级准确度的同时，每美元处理的音频量增加了 70%。” Deepgram是一家 AI 语音应用提供商，是 ElevenLabs 的竞争对手。

但亚马逊并不满足于仅仅为 PyTorch 应用开发者提供一个轻松迁移到其云平台的选项。

亚马逊还表示，正在推动 PyTorch 减少对 Nvidia 的自动依赖，并将为此贡献代码至 PyTorch 主项目。在宣布新工具的博文中，该公司写道：

“亚马逊的策略超越了其自有硬件范畴。公司正向 PyTorch 上游贡献更改，与 PyTorch 社区合作，移除将框架绑定到特定芯片的代码。目标是让整个开发者社区（而不仅仅是 Trainium 用户）都能获得更具硬件无关性的 PyTorch。”

虽然这种策略无疑有利于那些销售与 Nvidia 竞争的硬件和云服务的企业，但 PyTorch 的核心价值之一正是隐藏让 AI 代码在不同硬件上运行时的种种棘手难题。我们还需拭目以待，看看将 Nvidia 的影响推远是否真如亚马逊承诺的那样，为开发者提供更多选择和更实惠的方案，还是只会带来更多的配置麻烦。

无论如何，如果亚马逊成功地将 PyTorch 与 Nvidia 深度解耦，这对这家 GPU 巨头产生的影响可能远超应对芯片竞争对手那么简单。正如 Brace 所言：“真正的故事在于消除那种让开发者根本无法拥有真正选择权的锁定效应。”