Rohan Paul (@rohanpaul_ai) · 2026/10/21 03:31:43
Google 开源 TorchTPU 原生支持 PyTorch 脱离 Nvidia GPU
出处作者 / 发布主体:Rohan Paul (@rohanpaul_ai)原标题:Google and Amazon now both offer native PyTorch backends that let code leave Nvidia GPUs.
78AI 研判分
核心综述
Google 开源了 TorchTPU,作为 PyTorch/XLA 的替代方案,允许开发者在 TPU 上直接运行和调试 PyTorch 代码。该工具通过逐步执行操作简化调试流程,并在生产环境中切换至 torch.compile 以优化性能,实测在训练 Qwen 3 8B 时可达 TPU 峰值算力的 52%。
报道全文原始报道全文
Rohan Paul (@rohanpaul_ai) · 2026-10-20 19
Google 和 Amazon 现在都提供了原生 PyTorch 后端,使代码能够脱离 Nvidia GPU 运行。
Google 刚刚开源了 TorchTPU,用以替代 PyTorch/XLA,让开发者能够逐步调试 TPU 模型。
在训练 Qwen 3 8B 时,TorchTPU 最高利用了 TPU 峰值算力的 52%。
此前,TPU 通过 PyTorch/XLA 接入 PyTorch,该框架会将操作排队交给编译器处理,导致其调试方式与 GPU 工作流不同。
TorchTPU 取代了这一层,它首先按原样执行每个操作以便调试,随后在生产环境中切换至 torch.compile 以提升速度。

