vLLM 官方博客T1·78 分
GLM-5.3 优化:PCP/DCP 与 HiSparse 实现百万上下文
原标题:GLM-5.3 Optimizations, Part 2: PCP, DCP, and Hybrid HiSparse on 16 H200s
- PCP 按 Token 而非 Head 切分 Prompt,比张量并行更适配 GLM-5.3 的稀疏注意力机制。
- DCP 配合 Hybrid HiSparse 将 KV 缓存分片并卸载至主机内存,突破 GPU 显存限制以支持 1M 上下文。
- 在 AgentX 基准测试中,该混合并行部署相比数据并行部署在同吞吐下提升了最高 3.2 倍的单用户体验速度。