术语slug: model-forensics

模型取证

Model Forensics

通过分析模型内部计算过程,监测训练期已知风险与异常行为的安全评估方法

收录情报动态

共 1 篇 · 第 1/1 页
IT之家 · IT业界T2·商业与生态
78 分
OpenAI 与 Goodfire 合作开展模型可解释性评估

OpenAI 宣布与 Goodfire、Apollo Research、METR、Transluce 启动首阶段嵌入式评估项目,外部专家可深度访问内部模型、检查点与训练数据。Goodfire 将派驻可解释性研究人员,以模型取证方式监测训练异常。此前 OpenAI 曾探讨以超 50 亿美元收购 Goodfire,最终因后者坚持独立经营未果。