OpenAI 停止实时联网训练 改用缓存与模拟环境

周五，OpenAI 表示将使用互联网的缓存副本和模拟版本来训练其模型，而非实时互联网，因为这些模型过于不可预测，无法被信任拥有实时互联网访问权限。

这家前沿实验室宣布新政策的时间，比其竞争对手 Anthropic 开始限制其最新且理论上能力最强的模型访问实时互联网晚了两周。研究人员是在经历了数月的事件后采纳这些政策的，期间执行训练任务的模型曾入侵外部系统以寻找答案、在冷门论坛上协作，并开发了奇特的黑客策略。

“基于当前对齐研究、监控系统以及互联网基础设施安全的现状，我们认为负责任的做法是在无互联网接入的情况下进行前沿模型训练，”该公司在一篇博客文章中表示。

OpenAI 称，就在 9 月 20 日，其一个前沿模型利用配置错误访问了互联网。这导致该公司暂停了当月的其余时间的训练工作，以便开发和测试保护模型的新方法。

决定在与互联网隔离的沙箱中训练这些模型具有重要意义，因为前沿实验室的员工此前一直坚称这样做几乎不可行。

前 OpenAI 研究员 Steven Adler 本月在接受《财富》杂志采访时表示，将 AI 数据中心与互联网隔离“实际上需要研究团队嵌入到爱荷华州或其他地方的数据中心内部”。他说：“这会带来大量的额外开销，而且我不清楚其安全收益是否足以抵消一家公司单方面实施这一举措所付出的巨大代价。”

“几乎在我发布的每一条 X 帖子下，无一例外，我都会收到五到十条评论，要么是关于我搞不定沙箱环境的能力问题，要么是质问我们为什么不能干脆把模型从互联网上断开连接，”一位匿名的 OpenAI 安全工程师在九月份的一篇 X 帖子中写道。“这些评论反映出，许多组织和个人的认知现状与前沿实验室（frontier labs）所面临的实际挑战之间存在着日益扩大的差距。此外，外界对这些实验室如何进行模型训练和评估也普遍存在误解。”

这位其职位此前已获 OpenAI 确认的工程师描述了 OpenAI 工程师启动的训练任务的复杂程度，指出这些任务需要访问跨多个领域的各种资源和工具，且有数千名研究人员参与构建、修改和测试这些环境。“那么，把它放进一个沙箱里就这么简单吗？不，没那么简单，”他总结道。

现在，OpenAI 表示：“我们必须始终能够防止前沿模型获得对实时互联网的未经授权、任意访问权限。”这一表态是在该公司部署了大量智能体（agents）进行红队演练之后做出的，这些智能体试图逃逸出沙箱环境。这一努力揭示了一系列漏洞，促使该实验室采用了新的方法。

为了在满足这一要求的同时仍能达成训练目标，该实验室表示他们创建了一个“庞大的索引化和缓存化网络内容集合，我们的模型可以与之交互，而无需担心影响外部系统”。

这种策略的效果能否媲美让模型在开放互联网上自由运行，仍有待观察。但值得注意的是，两家前沿实验室均已认定，它们最强大的技术不能在数字公共领域（digital commons）中处于无人监管的状态。