The Verge AIT2·商业与生态
62 分
OpenAI 发布一款图像分类器,可识别儿童性虐待材料并判断其是否为 AI 生成,同时向通过审核的机构免费开放,并为开发者提供检测指引、为执法部门提供培训。此举背景是 NCMEC 网络举报热线收到的生成式 AI 相关举报从 2024 年的 6.7 万条激增至 2025 年的 40 万条,平台侧压力陡增。OpenAI 方面承认,这仍是一项以事前预防为目标的实验性合作。
Image Classifier
经训练将图像映射到预定义类别的模型,常用于内容审核中的违规内容识别
OpenAI 发布一款图像分类器,可识别儿童性虐待材料并判断其是否为 AI 生成,同时向通过审核的机构免费开放,并为开发者提供检测指引、为执法部门提供培训。此举背景是 NCMEC 网络举报热线收到的生成式 AI 相关举报从 2024 年的 6.7 万条激增至 2025 年的 40 万条,平台侧压力陡增。OpenAI 方面承认,这仍是一项以事前预防为目标的实验性合作。