InfoQ 中文T2·算力与基建
78 分
Google 与 Meta 联合开源 TorchTPU,为 TPU 提供原生 PyTorch 后端,取代此前侵入式修改的 PyTorch/XLA 方案。开发者只需将 cuda 设备替换为 tpu、nccl 后端替换为 tpu_dist,即可让现有工作负载在 TPU 上运行,并支持即时执行、编译执行与分布式计算。项目仍处早期,路线图涵盖动态形状、算子覆盖、强化学习与量化等方向。
TorchTPU 引入的即时执行与编译执行混合模式,通过延迟与算子融合提升性能
Google 与 Meta 联合开源 TorchTPU,为 TPU 提供原生 PyTorch 后端,取代此前侵入式修改的 PyTorch/XLA 方案。开发者只需将 cuda 设备替换为 tpu、nccl 后端替换为 tpu_dist,即可让现有工作负载在 TPU 上运行,并支持即时执行、编译执行与分布式计算。项目仍处早期,路线图涵盖动态形状、算子覆盖、强化学习与量化等方向。