OpenAI 官方博客T1·商业与生态
68 分
OpenAI 发布报告称,已封禁两批疑似源自中国的 ChatGPT 账户集群,这些账户被用于生成虚假社交媒体评论和图像,以操纵关于美国 AI 数据中心建设推高电价以及科技关税政策的公共辩论。该事件揭示了生成式 AI 正成为地缘政治信息战的新工具,凸显了平台在识别和阻断自动化影响力行动方面的责任与挑战。
Influence Operations
通过媒体或网络手段系统性地影响公众意见的行为
OpenAI 发布报告称,已封禁两批疑似源自中国的 ChatGPT 账户集群,这些账户被用于生成虚假社交媒体评论和图像,以操纵关于美国 AI 数据中心建设推高电价以及科技关税政策的公共辩论。该事件揭示了生成式 AI 正成为地缘政治信息战的新工具,凸显了平台在识别和阻断自动化影响力行动方面的责任与挑战。
OpenAI 在最新报告中披露代号为“No Bell”的恶意使用案例,封禁了一个疑似源自俄罗斯的 ChatGPT 账户。该账户被用于批量生成关于非洲地缘政治的长文和社交媒体帖子,旨在通过虚假新闻渠道影响公众舆论并挑衅美国政治团队。此案例揭示了大模型在低成本、大规模信息操纵中的潜在风险及平台方的检测与阻断机制。
OpenAI 封禁了与“Rybar”网络相关的账户,该网络疑似源自俄罗斯。这些账户利用 AI 技术在多语言网站和社交平台上进行影响力操纵活动。
OpenAI 在威胁情报报告中披露了一起名为“Tort Report”的滥用行为,少数越南语账号利用其模型生成短评论,旨在向 Facebook 和 YouTube 恶意举报独立媒体内容。尽管该活动未导致目标帖子被下架(影响评级为最低级 Category 1),但揭示了大模型被用于自动化制造虚假举报以压制异见的新兴风险模式。
Meta 封禁了一个由以色列政治咨询公司 STOIC 运营的影响力网络,该网络利用 Meta 的 AI 模型自动生成文章和社交媒体评论。尽管涉及多平台且目标受众广泛,但该行动互动率极低,被命名为“Zero Zeno”。