The Verge AIT2·商业与生态
62 分
OpenAI 发布一款图像分类器,可识别儿童性虐待材料并判断其是否为 AI 生成,同时向通过审核的机构免费开放,并为开发者提供检测指引、为执法部门提供培训。此举背景是 NCMEC 网络举报热线收到的生成式 AI 相关举报从 2024 年的 6.7 万条激增至 2025 年的 40 万条,平台侧压力陡增。OpenAI 方面承认,这仍是一项以事前预防为目标的实验性合作。
NCMEC
美国非营利机构,运营 CyberTipline 举报热线,收集并分流儿童性虐待材料报告
OpenAI 发布一款图像分类器,可识别儿童性虐待材料并判断其是否为 AI 生成,同时向通过审核的机构免费开放,并为开发者提供检测指引、为执法部门提供培训。此举背景是 NCMEC 网络举报热线收到的生成式 AI 相关举报从 2024 年的 6.7 万条激增至 2025 年的 40 万条,平台侧压力陡增。OpenAI 方面承认,这仍是一项以事前预防为目标的实验性合作。
OpenAI 发布可识别 AI 生成内容的 CSAM 图像分类器,通过 API 免费向部分企业开放,并与 NCMEC 合作开发。同时 ChatGPT 将对涉及儿童性化的内容发出警告并临时封禁,配套推出开发者指南与执法工具。早期测试中分类器在保持同等检出量的前提下减少 48% 的误报标记,降低人工审核负担。