某 AI 实验室发布 AGI 民主化原则
一家未具名的 AI 实验室发布了关于确保通用人工智能(AGI)惠及全人类的原则声明。该声明强调去中心化权力分配,主张将真正的通用 AI 能力赋予尽可能多的人,而非由少数公司垄断超级智能。文中提及“民主化”等核心原则,但具体执行细节在提供的文本中被截断。
报道正文
AI 有潜力显著改善社会的许多方面。
这项技术将像以往的技术一样,赋予人们更强的能力和自主权;人们利用 AI 所能实现的目标,将远超蒸汽机或电力时代人们的想象。
我们憧憬一个普遍繁荣的世界,其程度之深目前难以想象;在这个世界里,个人的潜能、自主权和幸福感都将大幅提升。许多我们仅在科幻作品中敢于梦想的事物可能成为现实,大多数人将能过上比今天更有意义的生活。
但这一结果并非必然。未来的权力要么由少数掌控超级智能的公司垄断,要么以去中心化的方式掌握在人们手中。我们认为后者远优于前者,我们的目标是将真正通用的 AI 交到尽可能多的人手中。未来不会全坏也不会全好,正如当下一样,但我们现在做出的决定有助于最大化善果。
我们的使命是确保 AGI(通用人工智能)惠及全人类。以下是指导我们工作的原则。
- 民主化。 我们将抵制该技术导致权力向少数人集中的潜在风险。
这意味着,除了让每个人都能访问 AI 之外,我们还需要确保关于 AI 的关键决策通过民主程序和平等主义原则做出,而不仅仅由 AI 实验室决定。
- 赋能。 我们相信 AI 能够赋能每个人实现目标、学习更多知识、获得更快乐和充实的生活并追求梦想,整个社会也将从中受益。
要实现这一点,需要让人们探索眼前巨大的潜力,我们需要构建能够促成这一点的产品。用户应能可靠地利用我们的服务完成日益有价值的任务。
世界是多元的,人们的需求各不相同。我们希望赋予用户所需的自主权,并在合理范围内尽可能多地提供这种自由。
尽管我们希望赋予用户在使用服务时拥有极大的自由度,并坚信 AI 总体上将带来巨大益处,但我们有责任以最小化危害的方式构建和部署它。这不仅包括防止灾难性危害,还包括减少局部危害并避免潜在的社会腐蚀效应。这意味着在不确定性面前需持谨慎态度,并在证据更充分时放宽限制。
- 普遍繁荣。我们期望一个每个人都能享有优质生活的未来。
通过将易用且算力强大的 AI 系统交到每个人手中,我们相信人们将找到创造价值的全新方式,从而大幅提升所有人的生活质量,尤其是在新科学发现方面。
为了实现全面共享的繁荣,我们认为:1) 政府可能需要考虑新的经济模式,以确保每个人都能参与到眼前的价值创造中;2) 我们需要建设大规模的 AI 基础设施,并开发新技术以大幅降低 AI 基础设施的成本。
我们许多看似反常的举措——例如在营收相对较小的情况下大量购买算力、通过垂直整合来降低成本并使技术更易用、在全球范围内推动数据中心建设等等——都源于我们对“普遍繁荣”未来的根本信念。
- 韧性。AI 将引入新的风险,我们将与其他公司、生态系统、政府及社会各界合作共同应对这些挑战。我们将充分利用基金会资源支持相关工作。
没有任何一家 AI 实验室能独自确保美好的未来。举个明显的例子,能力极强的模型可能使制造新型病原体变得更加容易,因此我们需要采取全社会层面的应对措施,建立针对各类病原体的通用防御机制。再比如,随着模型的网络安全能力不断提升,我们需要迅速利用这些模型来帮助保护开源软件和关键基础设施,同时训练模型协助所有人开发更安全的软件。
这是对我们长期坚持的迭代部署策略的延伸;我们相信,社会需要应对每一级不断增强的 AI 能力,理解它、整合它,并共同探索最佳的前进路径。这一过程无法在真空中完成;社会与技术是共同演化的,而这需要时间。
我们并不将此视为唯一的安全策略;我们还需要构建安全的系统,并在技术对齐方面持续做出卓越的工作。
我们预计,在某些阶段,我们需要与政府、国际机构以及其他 AGI(通用人工智能)研发力量合作,以确保我们在推进工作之前,已经充分解决了严重的对齐、安全或社会问题。
- 适应性。 我们继续坚信,应对高度不可预测未来的挑战,唯一的办法就是做好随着认知深入而更新立场的准备。我们也承认,OpenAI 如今在世界上的影响力远大于几年前,因此我们将透明地说明我们的运营原则何时、如何以及为何发生变化。作为一个具体的例子,虽然我们有相当把握认为普遍繁荣仍将至关重要,但我们可以想象未来某些时期,我们不得不在一定程度上以赋能换取更强的韧性。
AI 发展带来了许多意外,且更多的意外仍在路上。随着技术的进步,其涌现行为将变得愈发难以预测。我们通过谨慎推进能力提升、迭代部署系统,并从系统与世界的互动中学习,来拥抱这种不确定性。
就在不久前,我们还因不确定 GPT-2 权重发布对社会的影响而感到紧张。显然,事后看来那是一种不必要的担忧,但它促使我们发现了迭代部署这一策略,这已成为我们摸索出的最重要的经验之一。
__
随着技术持续改进,我们正进入一个极具影响力的阶段。针对我们的每一个决策提出批评是完全合理的;鉴于我们所从事工作的分量,我们理应接受大量的审视。我们不会事事都做对,但我们会快速学习并及时纠偏。
我们致力于尽己所能,让未来胜于过去;能够承担如此重要的工作,我们深感幸运。