OpenAI 官方博客 · 2026/10/23 03:00:00
OpenAI Decisions API 正式可用,决策延迟降低十倍
OpenAI 宣布基于 GPT-6 Luna 的 Decisions API 正式可用,专为处理有界答案的实时决策任务设计。该接口通过优化推理路径,使文本、图像及结构化输入的决策速度比标准 Responses API 快 10 倍,并新增原生 JSON 支持、提示词缓存及美欧数据驻留功能。
报道全文原始报道全文
本文目录7 个章节
Applications 和 agents 在整个工作流中会做出许多小型决策:如何对输入进行分类、将请求路由到何处,或下一步该执行什么操作。单独来看,这些决策很简单。但在大规模场景下,它们的延迟和成本会累积起来。
今天,我们宣布 Decisions API 正式全面可用(Generally Available)。基于 GPT‑6 Luna 构建,Decisions API 将 Luna 的智能聚焦于答案范围受限的问题,帮助 Applications 和 Agents 从文本、图像和结构化输入中做出近乎实时的决策,其速度比通过 Responses API 调用 GPT‑6 Luna 快多达 10 倍。
自公开测试版发布以来,我们新增了原生的 GPT‑Live 集成、用于复用上下文的 Prompt Caching,以及在美国和欧盟的推理驻留功能。开发者还可以传入原生 JSON 输入,在问题指令中包含图像,并且每次请求最多可提出 400 个问题,是之前限制的两倍。我们还持续优化了延迟表现,包括在亚洲多个地区增加了额外算力容量。
团队如何使用 Decisions API
Decisions 的早期采用情况表明,它在各种用例中具有广泛的适用性。
在 OpenAI 内部,各团队正在产品和业务工作流中应用 Decisions API。Dots 团队利用它来缩短响应时间并提升交互性。我们的个人财务团队使用它对交易描述进行分类;而我们的传播团队则使用 Decisions 按主题对报道进行分类,并对报道是否强化或挑战关键叙事进行评分——从而帮助识别哪些内容需要更深入的审查。
这些早期案例展示了快速、结构化的决策如何将接收到的信息转化为广泛用例中的有效行动。客户也在同样广泛地应用 Decisions API,从准确归因 AI 成本,到让语言学习体验更具互动性。
1 of 5
选择你的 Application 所需的决策类型
使用 Decisions API 非常简单:开发者定义一个问题及其允许的答案选项,然后以文本、图像或原生 JSON 形式提供上下文。API 会返回三种支持的答案类型之一——概率、选择或评分——Application 可据此确定后续操作。多种答案类型的支持使得 Decisions 能够适用于极其广泛的用例。
Decisions API 支持三种答案类型:
| 类型 | 用途 | 主要结果 |
|---|---|---|
| predicate(谓词) | 估算条件为真的概率,例如产品是否存在可见损坏。 | probability:一个介于 0 到 1 之间的估计值,表示条件为真的可能性。 |
| choice(选择) | 从预定义选项中选择一个,例如智能体应继续执行、重试还是请求澄清。 | choice:你提供的某个值。响应中还包含概率和置信度。 |
| score(评分) | 根据有序等级标准对输入进行评级,例如损坏的严重程度。 | score:等级索引的概率加权平均值。 |
使用 Decisions API 和 GPT‑Live 构建实时语音体验
借助 GPT‑Live,你可以为语音应用带来自然、富有表现力的对话体验,其流畅的中断处理机制能让对话持续进行。Decisions API 现已原生集成 GPT‑Live(在新窗口中打开),帮助应用在实时对话中做出快速、专注的决策。客户支持智能体可以决定是提出澄清问题、路由请求还是升级问题。虚拟形象可以在用户说话时调整面部表情,并根据用户的言语以眨眼或微笑回应,从而创造更具互动性的体验。
以下示例利用转录更新来选择虚拟形象的表情。将此配置添加到现有 GPT‑Live 会话中的 session.triggers。
Live 会发出一个 decision.event;应用程序读取选定的 reaction 并相应地动画角色。了解更多关于将语音连接到 Decisions API 的信息。 (在新窗口中打开)
亲自尝试结合 GPT‑Live 使用 Decisions
表情调色板
点击人脸进行预览。
实时决策
观看 Decisions API 如何根据你们各自所说的话选择面部表情。
观察你说话时的反应。
观察助手回复时的面部表情。
试着说
我为我的猫排练了试镜。她中途走开了。
此演示有时间限制。使用它即表示你同意 OpenAI 的条款并确认我们的隐私政策。
构建并评估你的第一个决策
Decisions API 现已正式可用,支持通过专用 Decisions 端点调用 GPT‑6 Luna。有关当前费率和缓存详情,请参阅定价与可用性指南(opens in a new window)。
从你的应用程序中频繁执行的一项重复性决策开始入手。明确该决策的问题、可能的答案选项,以及用于区分这些选项所需的上下文信息。你可以使用反映真实使用场景的示例进行测试:在 Decisions Playground(opens in a new window) 中上传你自己的文本或图片进行试验,或者按照开发者指南(opens in a new window)发出你的第一个请求。
Decisions API 的费用为每百万输入 token 0.01。关于 30 分钟和 12 小时的缓存写入费用,请阅读我们的定价指南。(opens in a new window) 你只需为输入 token 付费:不收取任何输出 token 费用。美国(US)和欧盟(EU)地区提供区域化处理服务,符合条件的客户可使用零数据保留(opens in a new window)功能。详情请参阅定价与缓存(opens in a new window)和数据控制(opens in a new window)。