伯克利研究揭示模型路由降本 25 倍
原标题:Great new study on model routing.
78AI 研判分
加州大学伯克利分校等机构发布大规模模型路由研究,在 25 个基准、452 个候选模型与策略上跑了 374,401 次评分实验。结论是路由器的核心价值在于把任务导向更便宜的模型,平均每单位成本的质量提升达 8.82 倍,质量损失不到 0.5 分;编程任务中路由达到始终调用 Opus 4.6 的 25.5 倍成本效率,仅损失 0.44 分。但学习型路由器相对最佳单模型的真实增益仅 0.3 分,远低于理论上限 5.4 分。
报道正文
Rohan Paul (@rohanpaul_ai) · 2026-11-10 17
关于模型路由的一项出色新研究。
来自加州大学伯克利分校及其他实验室
研究发现,模型路由器能显著节省成本,平均每单位成本带来的质量提升达 8.82 倍,而质量损失不到 0.5 分。
路由器为每个输入选择由哪个模型来处理,希望以更低的成本匹配最佳模型,甚至超越它。大多数路由研究只考察了语言模型。
Route Anything 在 25 个基准测试(从文本问答到机器人控制)上,用相同的输入运行了 452 个候选模型和策略。他们基于这 374,401 次带评分的运行训练路由器,并同时衡量质量和成本。
一个完美的逐输入路由器本应比最佳单一模型高出 5.4 分,但学习到的路由器在 16 个基准测试上仅提升了 0.3 分。在编程任务上,路由达到了始终调用 Opus 4.6 的 25.5 倍美元效率,代价是 0.44 分的损失。
应主要利用路由器在质量接近时将工作转移到更便宜的模型上,并在信任收益之前,用相同的输入比较各候选模型。
