返回热点榜
compute热度 11.9°

AI 聚合热点事件 · 2026/10/23

GLM-5.3 优化:PCP/DCP 与 HiSparse 实现百万上下文

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/10/23 08:00:00
全景综述与最新动态
1 家信源交叉印证

针对 GLM-5.3 在 H200 集群上服务长上下文智能体工作负载时的显存与预填充瓶颈,团队提出了基于 Prefill Context Parallelism (PCP) 和 Decode Context Parallelism (DCP) 的分离式架构。结合 Hybrid HiSparse 技术将 KV 缓存卸载至主机内存,该方案在保持同等吞吐量下实现了 1.7–3.2 倍的单用户推理速度提升,并成功支持 100 万 token 的超长上下文。

最新动向/针对 GLM-5.3 在 H200 集群上服务长上下文智能体工作负载时的显存与预填充瓶颈,团队提出了基于 Prefill Context Parallelism (PCP) 和 Decode Context Parallelism (DCP) 的分离式架构。结合 Hybrid HiSparse 技术将 KV 缓存卸载至主机内存,该方案在保持同等吞吐量下实现了 1.7–3.2 倍的单用户推理速度提升,并成功支持 100 万 token 的超长上下文。

热度曲线逐小时热度走势

3 个完整观测小时
当前
11.9
峰值
12.604:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

TIMELINE报道时间线

共 1 篇 · 最新优先
  1. vLLM 官方博客T1·78 分

    GLM-5.3 优化:PCP/DCP 与 HiSparse 实现百万上下文

    原标题:GLM-5.3 Optimizations, Part 2: PCP, DCP, and Hybrid HiSparse on 16 H200s

    • PCP 按 Token 而非 Head 切分 Prompt,比张量并行更适配 GLM-5.3 的稀疏注意力机制。
    • DCP 配合 Hybrid HiSparse 将 KV 缓存分片并卸载至主机内存,突破 GPU 显存限制以支持 1M 上下文。
    • 在 AgentX 基准测试中,该混合并行部署相比数据并行部署在同吞吐下提升了最高 3.2 倍的单用户体验速度。
GLM-5.3 优化:PCP/DCP 与 HiSparse 实现百万上下文 | Today for AI