术语slug: collective-alignment

集体对齐

Collective Alignment

通过汇集多方利益相关者意见来定义 AI 行为规范的机制

收录情报动态

共 1 篇 · 第 1/1 页
OpenAI 官方博客T1·基座大模型
68 分
OpenAI 启动集体对齐:征集公众意见塑造模型默认行为

OpenAI 宣布推进“集体对齐”研究计划,旨在通过全球公众反馈来定义 AI 模型的默认行为规范。该举措承认单一机构无法代表全人类价值观,试图在主观争议场景中引入多元视角以优化模型表现。目前项目处于早期阶段,重点在于收集不同国家用户对理想 AI 行为的看法,而非直接发布新算法。