运行时编排

在推理执行期间动态选择、调度及协调多个模型或组件的系统机制，旨在根据实时需求优化整体性能、延迟或成本。