OpenAI 官方博客T1·基座大模型
85 分
OpenAI 发布针对 o 系列模型的“审议式对齐”(Deliberative Alignment)新策略,通过让模型直接学习安全规范并对其进行推理,显著提升了安全性。该方法结合监督微调与强化学习,使模型在生成回答前能显式地权衡安全规则,从而减少有害输出。
Deliberative Alignment
一种让模型显式推理安全规范以决定输出的对齐策略
OpenAI 发布针对 o 系列模型的“审议式对齐”(Deliberative Alignment)新策略,通过让模型直接学习安全规范并对其进行推理,显著提升了安全性。该方法结合监督微调与强化学习,使模型在生成回答前能显式地权衡安全规则,从而减少有害输出。