术语slug: superalignment

超级对齐

Superalignment

确保比人类更聪明的 AI 系统与人类价值观保持一致的研究领域

收录情报动态

共 2 篇 · 第 1/1 页
OpenAI 官方博客T1·基座大模型
78 分
OpenAI 提出弱到强泛化对齐新方向

OpenAI 发布关于“超对齐”(Superalignment)的新研究,提出利用深度学习的泛化特性,通过弱监督者控制强模型。该研究旨在解决未来超级智能难以被人类直接监督的问题,初步实验显示弱模型能有效引导强模型提升性能。