返回热点榜
llm热度 30.3°

AI 聚合热点事件 · 2026/11/22

OpenAI 首席科学家提议以困惑度统一衡量模型安全

2 篇收录报道2 家独立信源交叉印证持续跟踪至 2026/11/23 01:06:27
全景综述与最新动态
2 家信源交叉印证

OpenAI 首席科学家 Jakub Pachocki 近日撰文提出,将困惑度(交叉熵损失)作为跨模型开发者可比的统一指标,并以此支撑共享安全标准。他认为,现代 AI 的进步本质上是训练更优压缩器(即预测器)的进展,困惑度能直接反映模型预测能力,是衡量预训练进展的核心标尺。作为第一步,OpenAI 首次公开了自身预训练进展的更多透明度信息,并透露近期模型设计中已有实质性贡献来自 AI 自身。

该提议若被行业采纳,将首次为不同厂商的模型能力与安全性提供可比较的量化基准,有助于建立统一的评估体系。同时,OpenAI 主动披露预训练细节,也回应了外界对 AI 透明度日益增长的呼吁。然而,困惑度作为安全标尺仍存争议,因其主要衡量预测准确性,而非模型行为的合规性或危害性。

这一动向可能推动行业形成更开放的竞争与合作格局,促使开发者共享关键指标,加速安全标准的协同制定。但能否成为通用标准,还需看其他主要厂商的响应与监管机构的认可。

最新动向/OpenAI 首次公开预训练进展透明度,并披露 AI 已实质性参与模型设计,标志着其推动行业统一安全标准的初步行动。

逐小时热度走势

20 个完整观测小时
当前
30.3
峰值
31.102:00
近 24h 变化
+52%

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 2 篇 · 最新优先
  1. Hacker News AIT2·78 分
    • 困惑度(交叉熵损失)被视为衡量压缩器/预测器能力的核心指标,可作为跨开发者比较模型进展的统一标尺
    • OpenAI 承诺提升预训练进展透明度,并推动以该指标支撑共享安全标准
    • 近期模型设计中已出现来自 AI 的实质性设计贡献,自动化在研发中的比重正在上升