级联推理

根据置信度将请求动态路由至不同规模或成本的模型，以平衡性能与开销的策略。