工具slug: csam-detection-classifier

CSAM 检测分类器

CSAM Detection Classifier

OpenAI 推出的图像分类器,识别潜在儿童性虐待视觉特征并对可疑图像给出优先级评分

收录情报动态

共 1 篇 · 第 1/1 页
IT之家 · 智能时代T2·商业与生态
58 分
OpenAI 推出 CSAM 检测工具 误报降低 48%

OpenAI 发布儿童性虐待内容(CSAM)图像分类器,通过 API 向经审核机构免费开放,误标记图像数量较现有措施减少 48%,标记准确率约提升一倍。ChatGPT 同步上线干预机制,违规请求将触发 24 小时临时封号并逐级升级至永封或移交执法。该工具由美国国家失踪与受剥削儿童中心(NCMEC)参与训练与评估,OpenAI 还与 Anthropic、谷歌共同委托 Tech Coalition 发布行业处置指南。