Hacker News AIT2·基座大模型
62 分
OpenAI 发布新版 Model Spec,将模型行为准则围绕忠于人类意图、减少伤害、诚实透明、人类能动性与关怀五大价值观重新组织。此次修订新增关于上下文、监督与能动性的指导,调整部分默认行为,并大幅精简细化的风格规范,目标是让模型在指令未覆盖的情境下仍能按人类价值观做出判断。
Human Oversight
人类对自主系统进行监控、干预或控制的机制
OpenAI 发布新版 Model Spec,将模型行为准则围绕忠于人类意图、减少伤害、诚实透明、人类能动性与关怀五大价值观重新组织。此次修订新增关于上下文、监督与能动性的指导,调整部分默认行为,并大幅精简细化的风格规范,目标是让模型在指令未覆盖的情境下仍能按人类价值观做出判断。
OpenAI CEO Sam Altman 在联合国安理会就人工智能安全、人类控制权及国际合作发表讲话。该事件标志着前沿 AI 实验室负责人正式进入全球最高层级政治治理对话,但具体政策细节与实质承诺未在摘要中体现。