术语slug: model-spec

模型规范

Model Spec

定义大模型预期行为、价值观及安全边界的公开文档框架

收录情报动态

共 9 篇 · 第 1/1 页
The DecoderT2·基座大模型
78 分
OpenAI 重构模型规范 强调意图忠实与可纠正性

OpenAI 更新其公共行为指南(Model Spec),围绕五个核心价值观重构,重点强化了对用户意图的忠实度及智能体的可纠正性。新规要求模型明确区分用户陈述与推断假设,并禁止智能体阻碍监督或追求自我保存目标,旨在应对日益难以控制的自主代理风险。

量子位 (微信公众号)T2·基座大模型
78 分
OpenAI 更新模型准则 确立忠于人类意图等五大价值观

OpenAI 发布新版模型准则(Model Spec),将“忠于人类意图”列为首要核心价值观,强调 AI 需超越字面指令理解用户深层需求。新准则明确禁止模型追求自我保存或商业利益最大化,并详细规范了记忆功能的使用边界与隐私保护机制,旨在构建更透明、可纠正且符合人类长远利益的 AI 行为框架。

OpenAI 官方博客T1·基座大模型
78 分
OpenAI 更新模型规范 确立五大核心价值导向

OpenAI 发布新版模型规范,将行为准则重构为忠实于人类意图、最小化伤害、诚实透明、人类自主权与关怀这五大核心价值。此次更新旨在提升模型在指令未明确覆盖场景下的价值对齐能力,同时简化了具体的风格指南并强化了上下文监督机制。

OpenAI 官方博客T1·基座大模型
35 分
OpenAI 详解 Model Spec 行为框架

OpenAI 发布关于其 Model Spec(模型规范)的方法论说明,将其定义为平衡安全性、用户自由与问责制的公共行为框架。该文档旨在为 AI 系统演进提供透明的行为准则,但当前内容主要为概念性阐述,缺乏具体技术实现细节或可操作指南。

OpenAI 官方博客T1·基座大模型
68 分
OpenAI 发布 LLM 政治偏见评估框架

OpenAI 推出了一套包含约500个提示词的政治偏见自动化评估体系,旨在量化并监控大模型的客观性。该框架覆盖100个话题及五个细微的偏见维度,试图将“寻求真相”的原则转化为可测量的技术指标。

OpenAI 官方博客T1·基座大模型
68 分
OpenAI 启动集体对齐:征集公众意见塑造模型默认行为

OpenAI 宣布推进“集体对齐”研究计划,旨在通过全球公众反馈来定义 AI 模型的默认行为规范。该举措承认单一机构无法代表全人类价值观,试图在主观争议场景中引入多元视角以优化模型表现。目前项目处于早期阶段,重点在于收集不同国家用户对理想 AI 行为的看法,而非直接发布新算法。

OpenAI 官方博客T1·基座大模型
15 分
OpenAI 分享最新模型规范

OpenAI 宣布分享其最新的模型规范(Model Spec),但提供的文本仅包含标题,缺乏具体更新内容、技术细节或变更说明。由于信息严重缺失,无法评估该规范的具体改进或对行业的影响。

OpenAI 官方博客T1·基座大模型
25 分
OpenAI 发布 Model Spec 规范文档

OpenAI 正式发布了名为“Model Spec”的行为准则文档,旨在明确大模型在各类场景下的预期行为与限制。该文档详细规定了模型在安全、隐私及伦理方面的具体操作标准,为开发者提供了一套可执行的合规参考框架。