OpenAI 官方博客T1·基座大模型
68 分
OpenAI 宣布推进“集体对齐”研究计划,旨在通过全球公众反馈来定义 AI 模型的默认行为规范。该举措承认单一机构无法代表全人类价值观,试图在主观争议场景中引入多元视角以优化模型表现。目前项目处于早期阶段,重点在于收集不同国家用户对理想 AI 行为的看法,而非直接发布新算法。
Collective Alignment
通过汇集多方利益相关者意见来定义 AI 行为规范的机制
OpenAI 宣布推进“集体对齐”研究计划,旨在通过全球公众反馈来定义 AI 模型的默认行为规范。该举措承认单一机构无法代表全人类价值观,试图在主观争议场景中引入多元视角以优化模型表现。目前项目处于早期阶段,重点在于收集不同国家用户对理想 AI 行为的看法,而非直接发布新算法。