Hugging Face 联手 OpenRouter 打通开源模型调用
Hugging Face 与 OpenRouter 达成合作,用户可直接使用 Hugging Face 令牌调用 Hub 上由服务商托管的开源权重模型。OpenRouter 会基于对各服务商的实时测量,将请求路由至 80 多家提供商,从而降低开源模型的部署与调用门槛。
报道正文
本文目录9 个章节
Hugging Face 与 OpenRouter 强强联手,让开放权重模型轻松运行
发布于 2026 年 11 月 16 日 在 GitHub 上更新 点赞 - Célina Hanouti celinah 关注 Victor Mustar victor 关注 Bertrand Chevrier kramp 关注 Lucain Pouget Wauplin 关注 Pierric Cistac pierric 关注 Eliott Coyac coyotte508 关注 Julien Chaumond julien-c 关注
Hugging Face 与 OpenRouter 正在携手合作,让开放权重模型轻松运行。每一个重要的开放权重模型发布时,都已经同步发布在 Hugging Face Hub 上,而 OpenRouter 则大规模地提供这些模型的服务,根据对 80 多家提供商的实时测量结果,将每个请求路由到最合适的提供商。如今,Hub 上任何由提供商提供服务的开放权重模型,都可以使用你的 Hugging Face token,通过同一套 API 调用,并为每个请求自动选择最佳的提供商。
今天,我们将 Inference Providers 从我们自研的路由器切换为 OpenRouter 的路由器。发往语言模型的请求现在会经过 OpenRouter,它会根据实时的价格、速度和可靠性为每次调用选择最佳的提供商,并在第一个提供商失败时自动重试另一个提供商。你的代码无需任何改动。
用你已经在用的工具来运行它们
无论背后的提供商是谁,该路由器都为所有聊天模型支持 OpenAI 的 Chat Completions 和 Responses API,以及 Anthropic 的 Messages API。选择你的编程智能体或 SDK 以及一个模型,然后复制相应步骤,或者把整套配置作为提示词复制给你的智能体:
Claude Code、Codex、OpenCode、Pi 和 Hermes Agent 的配置指南
同一个 Hugging Face token 还能让你获得 Storage Buckets 的存储、Jobs 的计算能力,以及 Inference Endpoints 的专用推理。PRO、Team 和 Enterprise 套餐包含每月用于计算和推理的额度。
开放权重模型的使用情况
在 OpenRouter 上,开放权重模型所服务的 token 占比从 2025 年 10 月的 26.8% 上升到 2026 年 9 月底的 71.7%,其间在 7 月达到 77.5% 的峰值(OpenRouter,2026 年 10 月)。同一时期,开放权重模型的周调用量增长了 60 多倍,而闭源模型增长了近十倍。本周 OpenRouter 上使用最多的模型就是一个开放权重模型 DeepSeek V4.1 Flash 1017,共处理 59.2 万亿 token(排行榜)。


开放权重模型的平均成本约为闭源模型的四分之一:每百万输入 token 为 $0.28,每百万输出 token 为 $1.62,而闭源模型分别为 $1.27 和 $6.36。
在最难的基准测试上,最好的开放权重模型仍落后于最好的专有模型。在 Artificial Analysis Intelligence Index 上,最好的开放权重模型 Kimi K3.1 Pro 得分为 46,而 Claude Fable 5.2 为 65,但每任务成本约为后者的七分之一($3.68 对 $26.54)。对许多工作负载来说,这样的取舍是值得的。


由 OpenRouter 提供支持的路由
OpenRouter 每月为超过 1000 万用户提供超过 800 万亿 token 的服务,覆盖来自 80 多家提供商的 600 多个模型。其路由基于对所有这些流量中每个提供商的实时测量。
OpenRouter 最近重建了其提供商路由:它不再只关注最低标价,而是将每个请求发送到在价格、速度和可靠性方面综合表现最佳的提供商。
当某个提供商变慢或开始出现故障时,流量会从该提供商转移走,直到其恢复;而一次失败的尝试会在同一次调用中重试到下一个最佳提供商。根据 OpenRouter 的测量,新路由将容量错误减少了 46%,并将首 token 时间改善了 16.9%,吞吐量提升了 16.3%。


此前,Inference Providers 会为你的请求选择一个提供商,如果失败则返回其错误。现在,请求会在另一个提供商上重试。你仍然可以通过在模型 ID 后添加后缀来选择策略或提供商:
zai-org/GLM-5.3 # 默认:价格、速度和可靠性的最佳组合
zai-org/GLM-5.3:fastest # 最高吞吐量
zai-org/GLM-5.3:cheapest # 最低价格
zai-org/GLM-5.3:novita # 仅使用 Novita路由还具备缓存感知能力:对话会保留在持有其提示缓存的提供商上。为了明确这一点,请在 X-HF-Session-Id 请求头中为每个对话发送一个稳定的 UUID(参见提示缓存指南)。
定价
定价没有变化:你按提供商的价格在你的 Hugging Face 账单上付费,Hugging Face 不会在此基础上加价。PRO 用户每月可获得 2 美元额度,Team 和 Enterprise 组织每个席位可获得 2 美元。详情请参阅定价与计费。
图像、视频和音频生成
图像、视频和音频生成仍然和以前完全一样,直接通过 Hugging Face Inference Providers 进行,不经过 OpenRouter。你可以继续使用相同的 token 和 API,并访问数以万计的 LoRA。
查看你的请求流向
在模型页面上,你可以直接在小组件中与模型对话。两个新增的标签页展示了其背后的信息:Providers 列出了 OpenRouter 可以将该模型路由到的所有提供商,以及每个提供商的输入和输出价格、过去 24 小时的速度和正常运行时间;Metrics 则展示了其中最优的价格、吞吐量、首 token 时间、上下文长度和正常运行时间:


你的用量概览会按每个请求所流向的提供商来细分你的支出:


在你的设置中,你可以关闭任何你不想要的提供商:路由器绝不会将你的请求发送到那里。组织拥有相同的设置,并且这些设置适用于所有计入该组织账单的请求。


破坏性变更:自定义提供商密钥
现在,对语言模型的请求会经由 OpenRouter 处理,并计入你的 Hugging Face 账户或组织的账单,因此对于提供这些模型的提供商,你不能再使用自己的 API key。你仍然可以在模型 id 后加后缀(model:provider)来选择提供商,或在设置中关闭某些提供商,而你的代码保持不变。图像和视频提供商的自定义 key 仍然有效。
接下来
这是我们与 OpenRouter 合作的第一步。接下来:
- 将你的 OpenRouter 账户连接到 Hugging Face。
- 更多任务将通过 OpenRouter 路由。
试用一个模型,或阅读 Inference Providers 文档以开始使用。