工具slug: roost访问官方网站

ROOST

面向儿童安全的开源工具与模型平台,为平台方提供内容审核能力

收录情报动态

共 1 篇 · 第 1/1 页
TechCrunch AIT2·基座大模型
62 分
OpenAI 推出 CSAM 图像分类器并上线 ChatGPT 拦截警告

OpenAI 发布可识别 AI 生成内容的 CSAM 图像分类器,通过 API 免费向部分企业开放,并与 NCMEC 合作开发。同时 ChatGPT 将对涉及儿童性化的内容发出警告并临时封禁,配套推出开发者指南与执法工具。早期测试中分类器在保持同等检出量的前提下减少 48% 的误报标记,降低人工审核负担。