OpenAI 官方博客T1·商业与生态
42 分
OpenAI 宣布设立总额 1000 万美元的“超级对齐快速资助”项目,旨在支持针对超人 AI 系统的安全与对齐技术研究。重点资助方向包括弱到强泛化、可解释性及可扩展监督等前沿领域。
Superalignment
确保比人类更聪明的 AI 系统与人类价值观保持一致的研究领域
OpenAI 宣布设立总额 1000 万美元的“超级对齐快速资助”项目,旨在支持针对超人 AI 系统的安全与对齐技术研究。重点资助方向包括弱到强泛化、可解释性及可扩展监督等前沿领域。
OpenAI 发布关于“超对齐”(Superalignment)的新研究,提出利用深度学习的泛化特性,通过弱监督者控制强模型。该研究旨在解决未来超级智能难以被人类直接监督的问题,初步实验显示弱模型能有效引导强模型提升性能。