OpenAI 与布鲁金斯学会提出前沿 AI 监管框架
OpenAI 研究员与布鲁金斯学会联合发布论文,针对具备潜在公共安全风险的前沿大模型提出监管建议。核心主张包括建立安全标准、实施开发者注册报告制度以及确保合规的机制,强调行业自律需配合政府干预以应对能力不可预测性与扩散风险。
报道正文
本文目录3 个章节
摘要
先进的 AI 模型有望为人类带来巨大福祉,但社会需要主动管理随之而来的风险。在本文中,我们聚焦于所谓的“前沿 AI”(frontier AI)模型:即那些能力极强、可能具备足以对公共安全构成严重威胁的危险能力的基座模型(foundation models)。前沿 AI 模型带来了独特的监管挑战:危险能力可能意外出现;难以稳健地防止已部署模型被滥用;且难以阻止模型能力的广泛扩散。为了应对这些挑战,前沿模型的监管至少需要三个基石:(1) 标准制定流程,以确定对前沿 AI 开发者的适当要求;(2) 注册与报告要求,以便监管机构能够洞察前沿 AI 的开发过程;(3) 确保合规的机制,以保障前沿 AI 模型在开发和部署过程中符合安全标准。行业自律是重要的第一步。然而,要制定标准并确保其得到遵守,还需要更广泛的社会讨论和政府干预。为此,我们考虑了若干选项,包括授予监管机构执法权力以及建立前沿 AI 模型的许可制度。最后,我们提出了一套初步的安全标准,其中包括:开展部署前风险评估;对外部审查模型行为;利用风险评估信息指导部署决策;以及在部署后监测并响应有关模型能力和用途的新信息。我们希望这一讨论有助于推动更广泛的对话,探讨如何在平衡公共安全风险与 AI 发展前沿创新带来的收益之间取得最佳平衡。
报告作者(按字母顺序排列)
Markus Anderljung (Centre for the Governance of AI; Center for a New American Security) *†Joslyn Barnhart (Google DeepMind) **Jade Leung (OpenAI) *Anton Korinek (Brookings Institution; University of Virginia; Centre for the Governance of AI) **†Cullen O’Keefe (OpenAI) *Jess Whittlestone (Centre for Long Term Resilience) **
报告作者(按字母顺序排列)
Shahar Avin(存在风险研究中心,剑桥大学)Miles Brundage(OpenAI)Justin Bullock(华盛顿大学;Convergence Analysis)Duncan Cass-Beggs(国际治理创新中心)Ben Chang(安德鲁·W·马歇尔基金会)Tantum Collins(GETTING-PluralityNetwork,埃德蒙与莉莉·萨夫拉伦理中心;哈佛大学)Tim Fist(新美国安全中心)Gillian Hadfield(多伦多大学;Vector Institute;OpenAI)Alan Hayes(Akin Gump Strauss Hauer & Feld LLP)Lewis Ho(Google DeepMind)Sara Hooker(Cohere For AI)Eric Horvitz(微软)Noam Kolt(多伦多大学)Jonas Schuett(人工智能治理中心)Yonadav Shavit(哈佛大学) ***Divya Siddarth(集体智能项目)Robert Trager(人工智能治理中心;加州大学洛杉矶分校)Kevin Wolf(Akin Gump Strauss Hauer & Feld LLP)
所列作者为白皮书提供了实质性想法和/或工作贡献。贡献内容包括撰写、编辑、研究、详细反馈以及参与论文草稿研讨会。鉴于团队规模较大,列为作者并不意味着认可论文中的所有观点,也不意味着任何个人所属机构对论文的背书。
*重大贡献,包括撰写、研究、召集会议以及确定论文方向。
**重大贡献,包括编辑、召集会议、提供详细意见以及确定论文方向。
***作为 OpenAI 独立承包商期间完成的工作。†通讯作者。Markus Anderljung ([email protected]) 和 Anton Korinek ([email protected]).