稀疏激活大模型

总参数量远大于单次推理实际激活参数量的模型架构，通常借助路由机制降低计算开销