OpenAI 提出弱到强泛化对齐新方向
原标题:Weak-to-strong generalization
78AI 研判分
OpenAI 发布关于“超对齐”(Superalignment)的新研究,提出利用深度学习的泛化特性,通过弱监督者控制强模型。该研究旨在解决未来超级智能难以被人类直接监督的问题,初步实验显示弱模型能有效引导强模型提升性能。
报道正文
We present a new research direction for superalignment, together with promising initial results: can we leverage the generalization properties of deep learning to control strong models with weak supervisors?