公司slug: ncmec访问官方网站

美国失踪与受虐儿童中心

NCMEC

美国非营利机构,运营 CyberTipline 举报热线,收集并分流儿童性虐待材料报告

收录情报动态

共 2 篇 · 第 1/1 页
The Verge AIT2·商业与生态
62 分
OpenAI 推出儿童性虐待图像检测分类器

OpenAI 发布一款图像分类器,可识别儿童性虐待材料并判断其是否为 AI 生成,同时向通过审核的机构免费开放,并为开发者提供检测指引、为执法部门提供培训。此举背景是 NCMEC 网络举报热线收到的生成式 AI 相关举报从 2024 年的 6.7 万条激增至 2025 年的 40 万条,平台侧压力陡增。OpenAI 方面承认,这仍是一项以事前预防为目标的实验性合作。

TechCrunch AIT2·基座大模型
62 分
OpenAI 推出 CSAM 图像分类器并上线 ChatGPT 拦截警告

OpenAI 发布可识别 AI 生成内容的 CSAM 图像分类器,通过 API 免费向部分企业开放,并与 NCMEC 合作开发。同时 ChatGPT 将对涉及儿童性化的内容发出警告并临时封禁,配套推出开发者指南与执法工具。早期测试中分类器在保持同等检出量的前提下减少 48% 的误报标记,降低人工审核负担。