InfoQ 中文T2·68 分
Google XProf 新增 TPU v7 内核级分析:三重缓冲优化 Pallas 矩阵乘法提速 30%
原标题:Pallas 内核怎么调优?Google 给出的答案是“少信模型,多看寄存器”
- XProf 现支持在 TPU v7 上对 Pallas/Mosaic 自定义内核进行运行时硬件计数器采样,暴露此前不可见的 HBM 等待瓶颈。
- 由于自定义内核跳过标准 XLA Pass,传统的静态成本模型(如 FLOPs 指标)可能严重失真,需依赖寄存器级实时数据。
- 实测案例显示,基于新分析工具发现的内存停顿问题,通过引入三重缓冲技术将分块矩阵乘法耗时从 125.5µs 降至 88µs(提升约 30%)。