术语slug: openai-compatible-api

OpenAI 兼容 API

OpenAI-compatible API

遵循 OpenAI 标准接口的第三方模型调用协议

收录情报动态

共 3 篇 · 第 1/1 页
Simon Willison 博客T2·开发与工程
45 分
LLM CLI v0.37 发布 支持多模态嵌入与端点配置

Simon Willison 的 LLM CLI 工具及 Python 库发布 v0.37 版本,新增对 OpenAI 兼容端点的便捷配置命令。该版本默认模型切换为更低价的 gpt-6-luna,并增强了对文本、音频、图像等多模态二进制内容的嵌入支持。此外,作者指出该项目大量接收 AI 辅助生成的 PR,并通过大模型协助进行代码审查与分流。

Hugging Face BlogT1·开发与工程
48 分
Hugging Face Jobs 支持一键部署 vLLM 服务

Hugging Face 推出通过 `huggingface_hub` CLI 在 HF Jobs 上一键启动私有、OpenAI 兼容的 vLLM 推理端点的新功能。该方案无需配置服务器或 Kubernetes,按秒计费,适合快速测试、评估和批量生成场景,与面向生产环境的 Inference Endpoints 形成互补。