术语slug: inference-provider

推理服务商

Inference Provider

提供模型运行算力与接口的第三方云服务平台

收录情报动态

共 8 篇 · 第 1/1 页
Hugging Face BlogT1·开发与工程
25 分
Groq 接入 Hugging Face 推理服务

Groq 正式成为 Hugging Face Inference Providers 的合作伙伴,为用户提供基于 Groq LPU 架构的低延迟模型推理服务。该集成允许开发者通过统一的 API 接口调用 Groq 的高性能算力资源。

Hugging Face BlogT1·开发与工程
35 分
Hugging Face 接入 Fireworks.ai 推理服务

Hugging Face Hub 正式将 Fireworks.ai 纳入其 Inference Providers 体系,允许用户在模型页面直接调用该服务商的高速无服务器推理 API。此举旨在简化开发者在 HF 生态中运行大模型推理的流程,PRO 用户每月可获得 2 美元跨服务商通用的推理额度。