跳到主要内容
Today for AI
探索索引
←
返回术语
预填充上下文并行
一种将输入提示按 Token 维度而非注意力头维度切分到多个 GPU 上的并行策略,旨在加速长序列的预填充阶段。
暂时没有与该实体关联的公开内容。