返回全部资讯
OpenAI 官方博客T1·商业与生态

OpenAI 收购 Promptfoo:整合 AI 安全评估至 Frontier 平台

原标题:OpenAI to acquire Promptfoo
68AI 研判分

OpenAI 宣布收购 AI 安全评估初创公司 Promptfoo,旨在将其漏洞检测与红队测试技术直接集成到企业级智能体构建平台 OpenAI Frontier 中。此举回应了企业在部署 AI 同事(AI coworkers)时对行为评估、合规性及安全性的核心需求,同时承诺继续维护其开源项目。

报道正文

我们正在收购 Promptfoo,这是一个 AI 安全平台,旨在帮助企业在开发阶段识别并修复 AI 系统中的漏洞。一旦收购完成,我们将把 Promptfoo 的技术直接整合到 OpenAI Frontier 中,这是我们用于构建和运营 AI 同事(AI coworkers)的平台。

随着企业将 AI 同事部署到实际工作流中,评估、安全性和合规性已成为基础要求。企业需要系统化的方法来测试智能体行为,在部署前检测风险,并维护清晰的记录,以支持长期的监督、治理和责任追溯。

由 Ian Webster 和 Michael D’Angelo 领导的 Promptfoo 团队打造了一套强大的工具套件,深受超过 25% 的财富 500 强公司信赖,同时还拥有一个广泛使用的开源⁠(opens in a new window) CLI 和库,用于评估 LLM 应用并进行红队测试。我们将继续共同推进该开源项目的发展,同时提升 Frontier 平台内的集成企业级功能。

“Promptfoo 在企业级规模下评估、保护和测试 AI 系统方面拥有深厚的工程专长。他们的工作帮助企业部署安全可靠的 AI 应用,我们很高兴将这些能力直接引入 Frontier。”

— Srinivas Narayanan,OpenAI B2B 应用首席技术官(CTO)

我们将基于以下核心能力,为在 Frontier 上构建智能体的企业提供支持:

  • 内置于平台的安全与测试能力: 自动化安全测试和红队测试功能将成为 Frontier 平台的原生组成部分,帮助企业识别并修复诸如提示词注入(prompt injections)、越狱(jailbreaks)、数据泄露、工具滥用以及超出策略范围的智能体行为等风险。

  • 深度融入开发工作流的安全与评估: Frontier 将与识别、调查和修复智能体风险所需的工作流深度集成,从而更早地介入风险管理,使安全性成为企业 AI 系统开发与运营的核心环节。

  • 监督与责任追溯: 集成的报告与可追溯性功能将帮助组织记录测试过程、监控随时间的变化,并满足日益增长的 AI 治理、风险及合规要求。

“我们创立 Promptfoo,是因为开发者需要一种切实可行的方式来保障 AI 系统的安全。随着 AI 智能体与真实数据和系统的连接日益紧密,对其安全性进行保障和验证变得比以往任何时候都更具挑战性,也更为重要。加入 OpenAI 将帮助我们加速推进这项工作,为构建现实世界 AI 系统的团队带来更强大的安全、合规与治理能力。”

— Ian Webster,Promptfoo 联合创始人兼首席执行官

我们非常高兴欢迎 Promptfoo 团队加入,并将继续打造企业部署安全、可靠 AI 所需的工具。

本次收购的交割须满足常规交割条件。