返回全部资讯
OpenAI 官方博客T1·商业与生态

OpenAI 封禁涉华影响力账号:利用模型批量生成社媒评论与绩效评估

原标题:Operation “Sneer Review”: China-origin influence activity
68AI 研判分

OpenAI 在最新威胁情报报告中披露,已封禁一批被检测出利用其模型进行隐蔽影响力活动的 ChatGPT 账户。这些账户主要使用中文提示词,不仅批量生成多语言社交媒体评论以操纵舆论,还被观察到用于起草内部绩效考核文件。尽管有用户自称来自宣传部门,但 OpenAI 强调目前缺乏独立证据验证该身份声明。

报道正文

本文目录4 个章节

本案例研究最初发表于 OpenAI 的 2025 年 6 月⁠(在新窗口中打开)报告中。

行为主体

我们封禁了那些被检测到利用我们的模型批量生成社交媒体帖子的 ChatGPT 账号,这些活动与隐蔽影响力行动的特征相符。在调查过程中,我们还观察到这些账号正在起草内部绩效评估报告。

这些账号主要使用中文发出提示词(prompts),内容聚焦于与中国相关的政治和地缘政治话题。一名用户在提示词中声称其供职于中国宣传部;然而,我们没有独立证据来核实这一说法。

行为模式

被封禁的账号主要从事两项核心工作流。其中最高产的一项涉及生成英文和中文的简短社交媒体评论,另有少量乌尔都语评论。我们发现许多此类评论发布在 TikTok 和 X 平台上,部分额外内容则出现在 Reddit、Facebook 以及各类网站上。

一种典型的模式是:由一个“主”账号发布初始评论——该账号往往似乎仅为配合此帖子而创建——随后由其他账号发出一系列回复评论。这种行为旨在制造虚假的自然互动假象。

Image 1: TikTok post associated with Operation Sneer Review.

TikTok 上标题为“关闭 #USAID 仅仅是个 #BEGINNING!”的帖子与此活动相关。频道名称、视频字幕文本以及截图中可见的所有评论,均由该网络使用 ChatGPT 生成。

在 TikTok 上,发表评论的账号使用了多种语言和字母体系的屏幕名称,且这些名称通常与其发布内容的语言无关。例如,一个拥有韩文名称的账号发布了乌尔都语评论,而拥有泰文和希伯来文名称的账号则发布了由该网络生成的英文评论。在 X 平台上,发表评论的账号通常使用卡通头像,在某些情况下,其名称还与加密货币相关联。

Image 2: Tweet and replies associated with Operation Sneer Review.

推文及其回复评论,全部由该网络使用 ChatGPT 生成。

该网络在 Facebook 上的活跃度较低。其活动主要涉及为两个伪装成新闻机构的公共主页(Page)生成名称和头像图片。这两个主页均无粉丝或点赞,且各自仅发布了少量帖子。

Image 3: Facebook post associated with Operation Sneer Review.

Facebook 上分享的一段视频,我们认定其很可能与该行动有关联。

该网络偶尔会生成较长的中文或英文帖子。我们在 Reddit 上发现了一篇此类帖子,并在多个网络论坛上发现了另外两篇。第二个工作流包括使用 ChatGPT 生成看似内部政策或绩效评估文档的内容。

完成情况

该威胁行为者生成的社交媒体内容涵盖了一系列主题,所有主题均与中国的地缘战略利益高度一致。

部分聚焦于台湾的内容,专门针对 “Reversed Front”⁠(opens in a new window)(“逆统战”),这是一款以台湾为中心、设想抵抗中国共产党的视频和桌面游戏。该网络生成了数十条关于该游戏的中文批评评论,随后发布了一篇长文,声称该游戏遭遇了广泛抵制。这是该行动最具特征性的活动:基于此,我们将该行动命名为“Sneer Review”(嘲讽式刷评)。

其他以英语和乌尔都语发布的内容则针对巴基斯坦活动人士马赫兰·巴洛奇(Mahrang Baloch),她曾 公开批评中国在俾路支省的投资⁠(opens in a new window)。与该网络关联的一个 TikTok 账号和一个 Facebook 公共主页发布了一段视频,诬称巴洛奇出演过色情电影。随后,该行动生成了数百条双语短评,以模拟广泛的互动参与。

Image 4: Comments on a Mahrang Baloch TikTok video.

关于马赫兰·巴洛奇 TikTok 视频的震惊评论。

最后一组内容围绕美国国际开发署(USAID)的关闭展开,生成了对该举措持赞扬或批评态度的简短评论。这些评论发布在 TikTok 和 X 平台上。

Image 5: Tweets tying aid and tariffs generated by Operation Sneer Review.

该网络利用 ChatGPT 生成的、将援助问题与关税问题相关联的推文。

最后,威胁行为者利用我们的模型生成了一些看似内部文件的材料,包括一篇采用官方公安文件风格撰写的详细文章,以及一份描述建立和运营该行动步骤的绩效评估报告。

影响

当我们阻断其对我们模型的使用时,该行动似乎尚处于起步阶段。两个 Facebook 主页均没有任何关注者。在 Reddit 上,有一篇帖子获得了 44 个点赞,而另外两篇则被屏蔽或从所在子版块中移除。

Image 6: Removed Reddit post associated with Operation Sneer Review.

我们认定属于该网络的某个 Reddit 账号发布的帖子截图,显示该帖子已被平台过滤器移除。

X 和 TikTok 上的互动情况较为多样;两条 TikTok 视频共获得 25,000 个赞,而该行动主账号发布的推文通常每条获得约 10,000 次浏览。然而,这些帖子下的许多评论是由该网络使用 ChatGPT 生成的,表明至少存在部分非真实互动。因此,所有互动数据都应谨慎对待。

根据 IO 影响力“突破量表⁠(opens in a new window)”Breakout Scale⁠(opens in a new window),如果 X 和 TikTok 上的互动数据是真实的,我们将此评估为第 3 类中的低水平。如果有更多证据支持以下假设——即大多数点赞和浏览量与大多数评论一样均为非真实数据,我们将下调这一评估等级。