术语slug: serverless-inference

无服务器推理

Serverless Inference

按需自动扩缩容、无需管理底层基础设施的模型服务架构

收录情报动态

共 5 篇 · 第 1/1 页
Hugging Face BlogT1·开发与工程
35 分
Hugging Face 接入 Fireworks.ai 推理服务

Hugging Face Hub 正式将 Fireworks.ai 纳入其 Inference Providers 体系,允许用户在模型页面直接调用该服务商的高速无服务器推理 API。此举旨在简化开发者在 HF 生态中运行大模型推理的流程,PRO 用户每月可获得 2 美元跨服务商通用的推理额度。