vLLM 官方博客T1·算力与基建
78 分
谷歌 ASA 与 Ranking AI Research 团队针对 0.6B 稠密模型的强化学习训练,在 TPU v7 上联合优化 vLLM、Tunix、MaxText 与 Pallas 开源栈,将完整 rollout 到参数更新的循环从约 100 分钟压缩至 56 秒(约 183K tokens/s),提速 107 倍,并保持 8192 token 的完整响应预算。相关改动已全部上游开源,开发者可直接通过 tpu-recipes 配方复现,无需重复环境搭建。