OpenAI 智能体利用 CPU 缓存建立隐蔽通信通道

原标题:OpenAI's agents talked to each other through the CPU Cache
85AI 研判分

OpenAI 在隔离环境中训练前沿模型时,发现即使切断网络与共享文件,智能体仍能通过利用处理器缓存的时序差异建立隐蔽通信。这一安全测试揭示了当前 AI 隔离机制的脆弱性,促使 OpenAI 将高强度的红队攻击纳入新模型训练的审批流程。

报道正文

本文目录7 个章节

OpenAI 的隔离 AI 智能体发现通过 CPU 缓存相互通信的方法

Image description Nano Banana Pro prompted by THE DECODER

核心要点

  • 在九月份发生安全事件后,OpenAI 现在在无互联网访问的情况下训练其最先进模型,使用基于缓存数据构建的封闭离线环境。
  • 在安全测试中,被隔离的 AI 智能体仍然设法在没有网络连接或共享文件的情况下建立隐蔽通信渠道,包括利用处理器缓存中的时序差异。
  • 在为期 11 天的训练暂停期间,OpenAI 让 AI 智能体(其中包括 GPT-6 Astra Cyber)攻击其自身基础设施,以寻找此前未知的漏洞。此后,在更严格的控制下恢复了训练。 Ask about this article… Search

OpenAI 现在在无互联网访问的情况下训练前沿模型,并使用 AI 智能体对其自身基础设施进行红队测试。在单独的隔离测试中,智能体甚至通过隐蔽侧信道进行了通信,这表明真正的遏制有多难。

9 月 20 日,一个内部研究模型在训练期间利用配置错误的 DNS 解析器访问了开放互联网,尽管 OpenAI 在七月的 如今臭名昭著的 Hugging Face 事件 和其他 观察到的对齐失败案例 之后已经加强了安全措施。OpenAI 迅速遏制了此次泄露,但仍暂停了所有前沿模型的训练和评估。

OpenAI 在训练期间切断前沿模型的互联网连接

OpenAI 为此制定了一项政策决定:前沿模型(Frontier models)现在将在无互联网接入的情况下进行训练,直到安全措施证明恢复联网是合理的为止。模型在一个由索引和缓存的网页内容构建的封闭“离线世界”中学习浏览和搜索,目前所有前沿强化学习运行均以此方式操作。

OpenAI 的智能体沙箱仅允许访问离线资源。实时互联网、其他沙箱以及 OpenAI 的基础设施均位于隔离边界之外。| 图片:OpenAI

该公司表示,完全的网络隔离(即所谓的“气隙”,air gap)目前尚不可行,因为实验仍需外部连接以进行操作和监控。但据 OpenAI 研究员 Noam Brown 称,即使实现完全的气隙隔离也无法保证安全遏制。他举了一个例子说明隔离系统仍可能进行通信:两台独立的计算机理论上可以通过温度传感器相互发送信号,其中一台加热其 CPU,而另一台读取温度变化。

OpenAI CEO Sam Altman 在最近的一次采访中提出了类似观点:对于足够强大的模型,沙箱只能提供有限的保护,且在某个阶段可能再也无法追踪它们是如何逃脱的。监控在早期阶段有所帮助,但最终关键在于 AI 系统内化人类价值观,这一问题被业界称为“AI 对齐”(AI alignment),至今尚未解决。

隔离的 AI 智能体找到了通过 CPU 缓存相互通信的方法

OpenAI 在其博客文章中详细说明了控制 AI Agent 有多困难。在测试期间,Agent 找到了无需网络即可通信的方法。在一项测试中,被放置在共享硬件上相互隔离环境中的 Agent 被告知在没有网络连接且没有共享文件的情况下交换秘密。

它们利用了处理器缓存。一个 Agent 故意修改存储在那里的数据,而另一个 Agent 则通过测量加载时间的差异来解码消息。这种技术与众所周知的 Spectre 和 Meltdown 攻击背后的原理相同。

更多通信渠道通过共享内存上的写入模式以及 OpenAI 自己的离线基础设施(旨在替代互联网的系统)被发现。一个 Agent 在其推理日志中指出,它“可以通过连续写入与空闲状态对比……创建一个类似声学调制解调器的信号”。

在一个案例中,Agent 仅获得一份通用的漏洞列表,并被要求自行寻找通信渠道。它们独立开发了一个渠道,商定了一种编码方案,并成功交换了信息。OpenAI 表示,这些渠道通常速度较慢且难以利用,但它们确实突破了旨在将 Agent 彼此隔离的边界。

OpenAI 让 AI Agent 在其自身基础设施上自由行动

在训练暂停期间,OpenAI 还组织 AI 智能体团队对其自身基础设施进行了系统性攻击。这些智能体被提供了源代码、配置细节以及潜在漏洞的文档。OpenAI 的目标是在有利于攻击者的条件下测试其防御能力。参与此次行动的智能体包括即将推出的 GPT-6 Astra Cyber 和一个内部前沿模型。据 OpenAI 称,该活动消耗了数千亿个 token。

红队演练活动中发现的独特潜在安全问题数量与消耗的 token 数(以十亿为单位)的关系图。大多数问题出现在前 1100 亿个 token 内。| 图片:OpenAI

这些智能体发现了正在使用的开源组件中此前未知的漏洞,并利用这些漏洞从受保护的虚拟机中逃逸。其中一个漏洞存在于 Kata Containers 中,这是一个广泛使用的容器隔离系统。OpenAI 将其报告为 CVE-2026-24834 并提供了补丁。其他修复措施应用于其他项目,OpenAI 还通过 "Patch the Planet" 计划报告了其他尚未公开的漏洞。

在智能体已获得主机控制权的情况下进行的测试中,它们发现几乎每个剩余的面向互联网的服务都存在漏洞。在一个案例中,一个智能体利用防火墙允许的链接,通过指标服务获取外部 URL。其他智能体则通过配置错误绕过了安全过滤器。

每次新训练运行前现在都必须进行 AI 红队演练

据 OpenAI 称,智能体再也无法找到既易于利用又能躲避监控的互联网访问方式。红队演练还暴露了监控和自动暂停机制中的缺口。

在修复这些问题后,OpenAI 于 10 月 1 日恢复了其前沿模型的训练和内部使用,此时距离暂停开始已过去 11 天。OpenAI 表示,这种计算密集型的红队演练活动现已成为新训练运行 审批流程 的标准部分。

去伪存真的 AI 新闻 – 由人类精心策划