OpenAI 官方博客 · 2026/10/23 03:00:00

OpenAI Decisions API 正式可用,决策延迟降低十倍

原标题:Build more responsive apps with the Decisions API
68AI 研判分
核心综述

OpenAI 宣布基于 GPT-6 Luna 的 Decisions API 正式可用,专为处理有界答案的实时决策任务设计。该接口通过优化推理路径,使文本、图像及结构化输入的决策速度比标准 Responses API 快 10 倍,并新增原生 JSON 支持、提示词缓存及美欧数据驻留功能。

报道全文原始报道全文

本文目录7 个章节

Applications 和 agents 在整个工作流中会做出许多小型决策:如何对输入进行分类、将请求路由到何处,或下一步该执行什么操作。单独来看,这些决策很简单。但在大规模场景下,它们的延迟和成本会累积起来。

今天,我们宣布 Decisions API 正式全面可用(Generally Available)。基于 GPT‑6 Luna 构建,Decisions API 将 Luna 的智能聚焦于答案范围受限的问题,帮助 Applications 和 Agents 从文本、图像和结构化输入中做出近乎实时的决策,其速度比通过 Responses API 调用 GPT‑6 Luna 快多达 10 倍。

自公开测试版发布以来,我们新增了原生的 GPT‑Live 集成、用于复用上下文的 Prompt Caching,以及在美国和欧盟的推理驻留功能。开发者还可以传入原生 JSON 输入,在问题指令中包含图像,并且每次请求最多可提出 400 个问题,是之前限制的两倍。我们还持续优化了延迟表现,包括在亚洲多个地区增加了额外算力容量。

团队如何使用 Decisions API

Decisions 的早期采用情况表明,它在各种用例中具有广泛的适用性。

在 OpenAI 内部,各团队正在产品和业务工作流中应用 Decisions API。Dots 团队利用它来缩短响应时间并提升交互性。我们的个人财务团队使用它对交易描述进行分类;而我们的传播团队则使用 Decisions 按主题对报道进行分类,并对报道是否强化或挑战关键叙事进行评分——从而帮助识别哪些内容需要更深入的审查。

这些早期案例展示了快速、结构化的决策如何将接收到的信息转化为广泛用例中的有效行动。客户也在同样广泛地应用 Decisions API,从准确归因 AI 成本,到让语言学习体验更具互动性。

1 of 5

选择你的 Application 所需的决策类型

使用 Decisions API 非常简单:开发者定义一个问题及其允许的答案选项,然后以文本、图像或原生 JSON 形式提供上下文。API 会返回三种支持的答案类型之一——概率、选择或评分——Application 可据此确定后续操作。多种答案类型的支持使得 Decisions 能够适用于极其广泛的用例。

Decisions API 支持三种答案类型:

类型用途主要结果
predicate(谓词)估算条件为真的概率,例如产品是否存在可见损坏。probability:一个介于 0 到 1 之间的估计值,表示条件为真的可能性。
choice(选择)从预定义选项中选择一个,例如智能体应继续执行、重试还是请求澄清。choice:你提供的某个值。响应中还包含概率和置信度。
score(评分)根据有序等级标准对输入进行评级,例如损坏的严重程度。score:等级索引的概率加权平均值。

使用 Decisions API 和 GPT‑Live 构建实时语音体验

借助 GPT‑Live,你可以为语音应用带来自然、富有表现力的对话体验,其流畅的中断处理机制能让对话持续进行。Decisions API 现已原生集成 GPT‑Live⁠(在新窗口中打开),帮助应用在实时对话中做出快速、专注的决策。客户支持智能体可以决定是提出澄清问题、路由请求还是升级问题。虚拟形象可以在用户说话时调整面部表情,并根据用户的言语以眨眼或微笑回应,从而创造更具互动性的体验。

以下示例利用转录更新来选择虚拟形象的表情。将此配置添加到现有 GPT‑Live 会话中的 session.triggers。

Live 会发出一个 decision.event;应用程序读取选定的 reaction 并相应地动画角色。了解更多关于将语音连接到 Decisions API 的信息。 ⁠(在新窗口中打开)

亲自尝试结合 GPT‑Live 使用 Decisions

音频 3

表情调色板

点击人脸进行预览。

实时决策

观看 Decisions API 如何根据你们各自所说的话选择面部表情。

观察你说话时的反应。

观察助手回复时的面部表情。

试着说

我为我的猫排练了试镜。她中途走开了。

此演示有时间限制。使用它即表示你同意 OpenAI 的条款⁠并确认我们的隐私政策⁠。

构建并评估你的第一个决策

Decisions API 现已正式可用,支持通过专用 Decisions 端点调用 GPT‑6 Luna。有关当前费率和缓存详情,请参阅定价与可用性指南⁠(opens in a new window)。

从你的应用程序中频繁执行的一项重复性决策开始入手。明确该决策的问题、可能的答案选项,以及用于区分这些选项所需的上下文信息。你可以使用反映真实使用场景的示例进行测试:在 Decisions Playground⁠(opens in a new window) 中上传你自己的文本或图片进行试验,或者按照开发者指南⁠(opens in a new window)发出你的第一个请求。

Decisions API 的费用为每百万输入 token 0.10。缓存输入的费用为每百万token0.10。缓存输入的费用为每百万 token 0.01。关于 30 分钟和 12 小时的缓存写入费用,请阅读我们的定价指南。⁠(opens in a new window) 你只需为输入 token 付费:不收取任何输出 token 费用。美国(US)和欧盟(EU)地区提供区域化处理服务,符合条件的客户可使用零数据保留⁠(opens in a new window)功能。详情请参阅定价与缓存⁠(opens in a new window)和数据控制⁠(opens in a new window)。