返回全部资讯
OpenAI 官方博客T1·基座大模型

OpenAI 提出弱到强泛化对齐新方向

原标题:Weak-to-strong generalization
78AI 研判分

OpenAI 发布关于“超对齐”(Superalignment)的新研究,提出利用深度学习的泛化特性,通过弱监督者控制强模型。该研究旨在解决未来超级智能难以被人类直接监督的问题,初步实验显示弱模型能有效引导强模型提升性能。

报道正文

We present a new research direction for superalignment, together with promising initial results: can we leverage the generalization properties of deep learning to control strong models with weak supervisors?