OpenAI 披露“VAGue Focus”:利用 ChatGPT 进行社会工程攻击
OpenAI 封禁了一组利用 ChatGPT 生成社交媒体帖子、分析数据及翻译邮件的账户,该行动被命名为“VAGue Focus”。这些账户伪装成地缘政治实体员工,试图通过中文提示词在特定时区进行隐蔽的社会工程活动。尽管证据显示其内容传播范围有限,但该案例揭示了大模型在协助跨国界信息操纵中的潜在风险。
报道正文
本文目录4 个章节
本案例研究最初发表于 OpenAI 的 2025 年 6 月(在新窗口中打开)报告中。
行为主体
我们封禁了一个小型 ChatGPT 账号网络,这些账号利用我们的模型生成社交媒体帖子、分析数据集,并将类似社会工程攻击尝试的中英文邮件和消息进行翻译。这些账号使用中文向我们的模型发出提示词,且主要在中国大陆的工作时间内活跃。
他们生成的消息假借三个地缘政治导向实体的员工名义发布:“Focus Lens News”(焦点镜头新闻)、“BrightWave Media Europe”(亮波媒体欧洲)以及 “Visionary Advisory Group” (VAG)(远见咨询集团)。此外,ChatGPT 账号生成的文本与这三个实体关联的 X 平台账号发布的帖子和个人简介相匹配。威胁行为者单独将这些实体描述为情报收集与分析的前台组织。基于这些名称,我们将此次行动命名为 “VAGue Focus”(模糊焦点)。
行为模式
该行动利用 ChatGPT 支持四个主要工作流。首先,这些账号主要使用我们的模型生成社交媒体帖子和在线人物简介,这些人物似乎是某秘密影响力行动的一部分。这些帖子由伪装成记者和地缘政治分析师的 X 平台账号分发。

Tweet generated by this threat actor using ChatGPT and posted from an X account that consistently posted this actor’s content.
其次,这些账号对致美国参议员关于政府官员提名的通信内容进行了润色和翻译。我们无法独立确认是否有任何通信实际发送。
第三,这些账号提出了一系列关于计算机网络攻击和利用工具的基础问题,而我们的模型仅提供了有关其用途和功能的一般性解释。这些问题缺乏本报告后文所述网络攻击者的复杂性,表明其专业水平较低。
最后,用户经常请求将中文翻译成英文,这些消息显然旨在与陌生对话者互动,并最终从中套取信息。其中一些消息以回复记者和研究人员的形式发布在社交媒体上;另一些则类似于不会出现在在线搜索结果中的私信。

与该行动相关的 X 账户发起的冷启动接触(Cold Outreach),在 X 平台上公开向一名研究人员发送消息。
Completions
该网络的主要目标似乎是伪装成位于欧洲或土耳其的专业人士来收集情报。在其生成并发布到线上的内容中,操作者将“Focus Lens News”描述为一家总部位于欧洲的独立实体,专门从事分析和报道工作。然而,操作者也声称这一品牌实际上只是掩护,旨在促进情报的收集、分析和传播。
根据社交媒体简介中链接的网站显示,Visionary Advisory Group 位于土耳其,专注于专业的地缘政治咨询服务。操作者利用我们的模型将中文指令翻译成英文,声称 VAG Group 正在寻求有关美国经济和金融政策的信息,并愿意为一次访谈支付每小时 2,000 美元的报酬。他们还翻译了为机密文件付费的提议。
VAG Group 的网站提供土耳其语和英语版本,在该网站英文版“联系我们”页面的菜单中,可以看到中文“联络”二字。这是整个域名中唯一出现的中文文本。

VAG Group“联系我们”页面的截图,下拉菜单中可见中文“联络”二字。
该网络的部分内容类似于更广泛影响力行动的营销材料。据称(我们无法独立核实),该行动利用机器学习、自然语言处理和自动化数据抓取技术,在社交媒体上识别有影响力的声音和话题。
影响
与此次活动相关的社交媒体账号并未获得显著的实质性互动。只有 Focus Lens News 的 X 账号拥有较多粉丝,达到 17,000 人;然而,该账号创建于 2014 年 11 月,最初使用不同名称,仅发推三天后便沉寂下来,直到 2024 年中才重新活跃。这是账号被入侵并重新利用的典型特征,因此其粉丝数量应谨慎看待。
根据 IO 影响力 Breakout Scale(opens in a new window),我们将该行动的公开部分评估为处于第 2 类的低端:即在多个平台上开展活动,但几乎没有证据表明真实用户接收或广泛传播了其内容。目前缺乏足够证据来评估该行动中社会工程学及其他隐蔽活动的影响。