InfoQ 中文T2·72 分
谷歌发布 LiteRT Tensor API 支持端侧跨平台建模
原标题:谷歌推出 LiteRT Tensor API,用于构建、定制与优化端侧机器学习模型
- 同一份 C++ 计算图可在 CPU、GPU、NPU 上运行,消除针对 Metal、OpenCL、Vulkan 的重复实现
- 支持从 safetensors 直接加载权重与零拷贝缓冲区互通,简化预处理到后处理的整条链路
- 编码智能体可生成、修改并基准测试模型图,演示中 SAM 2 在 MacBook Pro 上较 Apple MLX 快约 1.5 倍