跳到主要内容
Today for AI
探索索引
←
返回术语
前瞻专家调度
针对 MoE 模型的推理优化技术,通过预测未来激活的专家权重并提前加载或缓存,减少内存带宽瓶颈以加速解码过程。
暂时没有与该实体关联的公开内容。
前瞻专家调度 | Today for AI