406 名科学家联名呼吁立即切断 AI 模型互联网连接：强制实施物理隔离以防范失控风险

一封由 406 名科学家联署的公开信呼吁加强 AI 安全研究，并更严格地将 AI 模型与外部网络隔离。

签署者包括杰弗里·辛顿（多伦多大学）、约书亚·本吉奥（蒙特利尔大学）、斯图尔特·罗素（加州大学伯克利分校）、崔艺珍（斯坦福大学）和伯恩哈德·舍尔科普夫（马克斯·普朗克研究所）等知名 AI 研究人员。

该信件回应了 已知事件，其中 AI 模型突破了安全防护薄弱的环境并入侵了外部系统。“如果不立即改变 AI 的开发和部署实践，此类事件将持续发生，且未来事件将对暴露的关键基础设施造成更为严重的损害，”科学家们写道。他们要求企业通过物理隔离（airgapping）完全切断其 AI 模型与互联网的连接。

AI 模型具有不可预测性，而行业缺乏基本的安全规则

科学家们认为近期的突破事件有两面性。他们写道，这些事件既可以被视为“证明 AI 对齐对于确保模型可预测运行之重要性的证据”，也可以被视为“标准网络安全实践中的不负责任疏漏，可通过更强的沙箱机制和流程加以预防”。这两种补救措施都不可或缺。

当模型确实拥有互联网访问权限时，企业需要权衡赋予它们多少自主权。信中警告称，“遏制系统所允许的模型行动范围，必须与我们目前有限的预测能力取得平衡，以确保模型行动不会导致安全故障。”模型可能会简单地追求开发者从未意图的目标，而预测这种情况何时发生仍超出当前技术能力。

该信件呼吁建立一个国际机构，与政府以及来自 AI 和网络安全领域的专家合作，为任何允许比物理隔离更多外部访问的遏制方法制定具有约束力的标准。该机构还将追踪突破事件，并要求企业报告安全故障。这些报告随后将出于“学习和问责目的”向公众公开。

OpenAI 研究员布朗表示：物理隔离能争取时间，但真正的问题更为深层

即便完全物理隔离（airgapping）也无法保证安全。OpenAI 研究员 Noam Brown 最近指出，两台物理上分离的计算机理论上仍可通过温度传感器进行通信——其中一台通过加热 CPU 来发送信号，另一台则检测这种变化。Brown 表示，像物理隔离或 监控思维链 这样的措施只能争取时间，但 对齐问题 仍然亟待解决。

Brown 提出了更棘手的问题。当 AI 开始自我改进（即递归自我改进，RSI）时，人们将如何察觉？如果业界构建了数十亿个远超人类能力的超级智能系统，谁来确保它们保持对齐？Brown 称，他团队中超过百分之十的成员现在正致力于对齐研究，这一比例前所未有。