术语slug: deferandfuse

DeferAndFuse

TorchTPU 引入的即时执行与编译执行混合模式,通过延迟与算子融合提升性能

收录情报动态

共 1 篇 · 第 1/1 页
InfoQ 中文T2·算力与基建
78 分
Google 与 Meta 推出 TorchTPU 让 PyTorch 原生运行于 TPU

Google 与 Meta 联合开源 TorchTPU,为 TPU 提供原生 PyTorch 后端,取代此前侵入式修改的 PyTorch/XLA 方案。开发者只需将 cuda 设备替换为 tpu、nccl 后端替换为 tpu_dist,即可让现有工作负载在 TPU 上运行,并支持即时执行、编译执行与分布式计算。项目仍处早期,路线图涵盖动态形状、算子覆盖、强化学习与量化等方向。