返回全部资讯
OpenAI 官方博客T1·商业与生态

OpenAI 封禁菲律宾政治水军账号

原标题:Operation “High Five”: Philippines political comments
68AI 研判分

OpenAI 在最新威胁情报报告中披露,已封禁利用 ChatGPT 批量生成菲律宾政治评论的账号。这些账号由营销公司 Comm&Sense 运营,通过 TikTok 和 Facebook 发布短文本以支持针对马科斯总统的政治影响力行动。尽管活动跨平台进行,但评估显示其实际传播影响有限,属于二级干扰操作。

报道正文

本文目录4 个章节

本案例研究最初发表于 OpenAI 的 2025 年 6 月⁠(在新窗口中打开)报告。

行为主体

我们封禁了利用我们的模型批量生成英语和 Taglish(菲律宾语与英语混合)短评论的 ChatGPT 账户。这些评论由 TikTok 和 Facebook 上的账户发布,内容聚焦于菲律宾的政治和时事。此活动与 Comm&Sense Inc. 有关,这是一家位于菲律宾的商业营销公司。

行为模式

该威胁行为者利用 ChatGPT 支持针对菲律宾受众的政治影响力活动的多个阶段。这些阶段包括内容分析、评论生成以及生成与该活动相关的公关材料。

首先,该威胁行为者使用 ChatGPT 分析关于菲律宾政治事件的社交媒体帖子,特别是涉及总统邦邦·马科斯(Bongbong Marcos)的事件,并建议合适的回复主题。其次,他们要求模型根据每个提议的主题批量生成短评论,通常不超过十个单词。

第三,该威胁行为者使用 ChatGPT 为其隐蔽影响力行动生成公关提案和统计分析,可能是为了其推测中的当前客户及未来的潜在客户。这些提案声称,该行动创建了五个 TikTok 频道,旨在推广马科斯总统的议程。基于对这五个频道的使用情况、该行动在许多评论中使用表情符号的做法,以及其总体积极的语调,我们将该行动命名为“High Five”(高五)。

我们的调查确定了这五个 TikTok 频道,它们似乎从 2025 年 2 月中旬开始发布内容。每个频道都发布了相同的视频,但配有不同的标题。随后,数十个 TikTok 账户以回复这些视频的形式发布了由该行动生成的评论。

Image 1: TikTok video on a channel linked to this operation, showing three of the user comments. All three comments were generated by this threat actor using our models.

TikTok 上与该行动相关联的一个频道发布的视频,显示了其中三条用户评论。这三条评论均由该威胁行为者使用我们的模型生成。

在 Facebook 上,该行动生成的评论均以回复主流媒体报道的形式发布。没有迹象表明这些主流媒体与该行动存在任何关联。

Image 2: Facebook comments generated by this operation and posted in reply to a news report by ABS-CBN News.

在我们封禁初始账号后,基于现有的技术和行为指标,我们认为该威胁行为者曾多次尝试重新接入我们的模型。

生成内容

该行动在线生成并发布的评论简短但带有明显的党派倾向。通常,这些评论赞扬马科斯总统及其举措,或批评副总统莎拉·杜特尔特。部分评论将杜特尔特副总统昵称为“菲奥娜公主”,这可能是在影射《怪物史莱克》电影系列。

篇幅较长的推销文案则更为详尽,并包含了针对该行动本身的推介内容。少数生成结果属于商业营销材料。这种隐蔽影响力行动与商业营销材料的结合,符合一家公关公司同时为多个客户服务的特征。

影响

该网络发布了大量内容,仅在 TikTok 和 Facebook 上的评论数量就至少达到数千条。然而,我们在调查期间识别出的在线评论中,没有任何一条获得的回复、点赞或分享超过个位数,大多数甚至完全没有互动。

根据威胁行为者自身的提示词,Facebook 评论的目标是淹没评论区。这一目标充其量只取得了部分成功。在 TikTok 上,评论主要集中在该行动运营的五个频道周围。鉴于存在大量虚假评论,对这些数据的解读应持谨慎态度。

使用 IO 影响的 Breakout Scale⁠(opens in a new window)(突破规模)进行评估,我们将此归类为第 2 类:活动涉及多个平台,但几乎没有证据表明真实用户接收或广泛传播了其内容。