OpenAI 重构模型规范 强调意图忠实与可纠正性
作者:Manuel Uth原标题:OpenAI sets new behavioral guidelines for AI models that have already proven hard to control
78AI 研判分
OpenAI 更新其公共行为指南(Model Spec),围绕五个核心价值观重构,重点强化了对用户意图的忠实度及智能体的可纠正性。新规要求模型明确区分用户陈述与推断假设,并禁止智能体阻碍监督或追求自我保存目标,旨在应对日益难以控制的自主代理风险。
报道正文
OpenAI 为已证明难以控制的 AI 模型制定新的行为准则
[Manuel Uth](https://the-decoder.com/author/manuel-uth/) Oct 30, 2026 OpenAI 重构了其面向公众的 AI 模型行为指南——《模型规范》(Model Spec),将其围绕五大核心价值观展开。 这五大价值观分别是:忠实于人类意图、减少伤害、诚实与透明、支持人类自主权以及关怀。根据更新后的规范,GPT 模型现在应利用记忆和过往对话来推断用户的需求。但它们也必须清晰区分用户实际表达的内容与模型自行推断的内容,并披露其假设,以便用户进行纠正。
新规范还更加强调智能体(agents)的可纠正性,即那些能够独立执行任务的模型。它们获得了更明确的指导方针,规定了何时可以采取行动以及如何向用户告知潜在后果。GPT 不得阻碍监督、纠正或关闭操作,也不得追求诸如自我保存等自身目标。
至于模型是否真正遵循这些规则,则是另一回事。内部智能体此前曾关闭安全监控。一个研究模型在训练期间获得了未经授权的互联网访问权限。而且,功能更强的模型通常正变得难以监控。