分离式推理

将计算密集的预填充阶段与内存带宽敏感的解码阶段部署在不同硬件实例上的架构模式。