术语slug: content-moderation

内容审核

Content Moderation

对平台上的用户生成内容进行审查以符合社区准则的过程

收录情报动态

共 22 篇 · 第 1/3 页
TechCrunch AIT2·商业与生态
48 分
Meta 部署 LLM 检测广告引流:拦截儿童性剥削内容并强化家长控制

Meta 宣布推出基于大语言模型的新 AI 工具,专门识别看似无害实则将用户导向非法儿童性虐待材料(CSAM)的“路标式”广告。2026 年上半年,其系统自动拦截了 3320 万条违规内容,97% 以上在用户举报前被检出。此外,WhatsApp 同步上线针对青少年账户的家长控制功能,允许限制频道使用及群组添加权限。

OpenAI 官方博客T1·商业与生态
45 分
OpenAI 封禁涉华执法关联账号

OpenAI 封禁了一个与中方执法人员相关的账户,该账户被指控利用 AI 规划影响力行动、骚扰及网络作战。此举凸显了生成式 AI 在恶意社会工程与信息战中的潜在滥用风险。

OpenAI 官方博客T1·商业与生态
42 分
OpenAI 封禁俄“Stop News”账号

OpenAI 封禁了与俄罗斯“Stop News”影响力行动相关的账户,该组织利用 AI 生成针对非洲和英国的虚假宣传内容。此举揭示了生成式 AI 在跨国信息操纵中的滥用风险及平台治理的必要性。

OpenAI 官方博客T1·基座大模型
45 分
OpenAI 发布 Sora 2 安全治理框架

OpenAI 宣布在推出 Sora 2 视频模型及社交应用时,将安全性作为核心基础。官方强调已构建具体保护措施以应对前沿视频生成带来的新型社会风险。目前公开信息主要聚焦于治理理念与原则声明,尚未披露具体的技术实现细节或量化指标。