OpenAI 推出企业级 API 安全与管理功能
OpenAI 宣布为 API 客户增加多项企业级功能,包括 Azure Private Link、原生多因素认证(MFA)及增强的管理控制。这些更新旨在满足大型企业在合规性、安全性和成本管控方面的需求,支持其规模化部署 AI 解决方案。
报道正文
本文目录4 个章节
我们与许多企业客户合作,例如 Klarna、Morgan Stanley、Oscar、Salesforce 和 Wix,帮助他们从零开始构建 AI 解决方案,并在其组织和产品中安全地部署 AI。我们通过新功能深化对企业的支持,这些功能既适用于大型企业,也适用于在我们平台上快速扩展的开发者。
增强的企业级安全性
我们推出了 Private Link,这是一种让客户确保 Azure 与 OpenAI 之间直接通信的新方式,同时最大限度地减少暴露于公共互联网的风险。我们还发布了原生的 多因素身份验证(opens in a new window) (MFA),以帮助满足日益严格的访问控制合规要求。这些是我们现有 企业安全功能堆栈(opens in a new window) 的新增内容,包括 SOC 2 Type II 认证、单点登录 (SSO)、使用 AES-256 进行静态数据加密以及使用 TLS 1.2 进行传输中数据加密,还有基于角色的访问控制。此外,我们为需要 HIPAA 合规性的医疗公司提供 业务伙伴协议(opens in a new window),并为具有合格用例的 API 客户提供零数据保留政策。
更好的管理控制
通过新的 Projects(opens in a new window) 功能,组织将对 OpenAI 中的各个项目拥有更细粒度的控制和监督能力。这包括将角色和 API 密钥限定到特定项目、限制或允许哪些模型可用,以及设置基于用量和速率的限制以授予访问权限并避免意外超额费用。项目所有者还可以创建服务账户 API 密钥,这些密钥可在不绑定个人用户的情况下提供对项目的访问权限。

Assistants API 改进
我们已对 Assistants API 进行了多项更新,旨在提升检索准确性、增强模型行为与任务完成工具的灵活性,并优化成本管控。这些新功能包括:
-
通过
file_search改进检索能力:每个助手现在可摄取多达 10,000 个文件——较此前 20 个文件的限制提升了 500 倍。该工具速度更快,支持通过多线程搜索实现并行查询,并增强了重排序(reranking)和查询重写功能。 -
支持流式传输以实现实时对话响应——这是开发者和企业呼声最高的需求之一。 API 中新增了
vector_store对象,允许将文件添加到向量存储中,并自动进行解析、分块和嵌入处理,为文件搜索做好准备。向量存储可在多个助手和线程之间复用,从而简化文件管理和计费流程。 -
控制每次运行(run)的最大 token 用量,以及限制每次运行中使用的历史消息和近期消息数量,以便更好地管理 token 使用成本。 新增
tool_choice参数,允许在特定运行中选择特定的工具(如file_search、code_interpreter或function)。 -
API 支持微调后的 GPT‑3.5 Turbo 模型(初期我们将支持
gpt-3.5-turbo-0125的微调版本)。

更多成本管控选项
为了帮助组织在不超出预算的前提下扩展 AI 使用规模,我们推出了两种降低持续性和异步工作负载成本的新方式:
-
承诺吞吐量折扣:在 GPT‑4 或 GPT‑4 Turbo 上保持稳定的每分钟 token 数(TPM)用量的客户,可以申请访问预置吞吐量(provisioned throughput),根据承诺规模的不同,可获得 10%–50% 的折扣。
-
异步工作负载降本:客户可以使用我们新的 Batch API(opens in a new window)
来异步运行非紧急工作负载。Batch API 请求的价格比共享价格低 50%,提供更高的速率限制,并在 24 小时内返回结果。这非常适合模型评估、离线分类、摘要生成和合成数据生成等应用场景。
我们计划持续推出新功能,重点聚焦于企业级安全、管理控制及成本管理。如需了解更多关于这些发布的信息,请访问我们的 API 文档(opens in a new window),或 联系我们的团队 以探讨适合您企业的定制化解决方案。