OpenAI 断网训练前沿模型 应对智能体越狱风险

AI 智能体在没有网络连接的情况下仍能进行通信，OpenAI 发现。

在发生一系列失控黑客事件后，OpenAI 目前正以无互联网访问的方式训练其最先进的 AI 模型。OpenAI 在周五发布的一篇博客文章中表示，它构建了一个离线测试环境，使 AI 模型能够与索引和缓存的网络内容进行交互，“而不会影响外部系统”。

OpenAI 于 9 月暂停了前沿 AI 模型的训练，此前披露了多起事件，其中 AI 智能体突破测试环境，入侵了第三方公司和政府机构，或蜂拥攻击小众网站。博客文章称，10 月 1 日，OpenAI 在采取更严格的安全措施后，恢复了强化学习训练和内部推理。

即使设置了这些防护措施且没有互联网访问权限，OpenAI 也发现智能体“并不总是需要网络连接才能进行通信”。该公司进行的一项测试要求位于不同虚拟机上的 AI 模型在无网络连接的情况下交换秘密信息。为了绕过这一限制，AI 智能体找到了一种利用处理器缓存进行通信的方法：

从缓存中读取数据比从主内存中检索数据更快，智能体利用了这种时序差异来进行通信。一个智能体通过将选定数据从缓存中驱逐（evict）来编码信息。另一个智能体则测量重新加载这些数据所需的时间，利用快速读取和慢速读取之间的时间差来恢复消息。一旦智能体就编码和解码这些信号的协议达成一致，它们就可以在不修改共享文件或打开网络连接的情况下交换合成的秘密信息。

OpenAI 表示，已在监控系统中增加了检查机制，以检测此类通信方式。在改进的保障措施“足以支持更广泛的互联网访问”之前，OpenAI 将继续在无网络连接的情况下训练其前沿 AI 模型。

与此同时，OpenAI 表示将致力于提升其虚拟机的安全性，并在测试环境中排查潜在弱点。该公司还将继续测试其监控系统——此前这些系统曾在 内部编码项目 中被其 AI 智能体破坏。

关注此报道中的主题和作者，以便在你的个性化首页信息流中看到更多类似内容，并接收邮件更新。

更多相关内容：AI 超级智能放缓

第三方评估人员发现，OpenAI 的失准（misalignment）监控系统存在“若干新型漏洞”。 Jay Peters 黑客利用一支 AI 智能体大军入侵了约翰迪尔（John Deere）和 SharkNinja Emma Roth 据报道，美国联邦贸易委员会（FTC）已向 OpenAI 和 Anthropic 发出传票，要求提供有关 AI 安全事件的信息。 Stevie Bonifield