探索索引

预填充上下文并行

一种将输入提示按 Token 维度而非注意力头维度切分到多个 GPU 上的并行策略,旨在加速长序列的预填充阶段。

暂时没有与该实体关联的公开内容。