OpenAI 封禁利用 ChatGPT 实施诈骗的账户集群
OpenAI 在最新安全报告中披露,已封禁一批利用 ChatGPT 生成虚假律所内容和冒充执法机构(如 FBI IC3)的账户。这些活动疑似源自柬埔寨,旨在对欺诈受害者实施“二次收割”式恢复服务诈骗。该案例展示了大模型被用于自动化生成高可信度钓鱼内容的风险及平台方的主动干预措施。
报道正文
本文目录4 个章节
本案例研究最初发表于 OpenAI 的2026年2月(在新窗口中打开)关于打击恶意使用 AI 行为的报告中。
行为主体
我们封禁了一组 ChatGPT 账号,这些账号利用我们的模型冒充虚构律师事务所,并假冒真实律师及美国执法机构,针对诈骗受害者实施“追回损失”骗局。该活动极有可能源自柬埔寨,并与近期公开报道中该国由中国主导的犯罪诈骗团伙相吻合。
行为模式
这些账号利用 ChatGPT 支持一项以虚假律师事务所和冒充可信实体(如真实律师及 FBI 互联网犯罪投诉中心 (IC3))为核心的欺诈性诈骗损失追回行动。
1. 引流(Ping): 诈骗分子利用 ChatGPT 创建了至少六家虚假律师事务所的内容。其中部分内容随后通过社交媒体账号和在线广告发布,用于推广虚构的诈骗追回服务。多项开源情报指标表明这些律所系伪造,包括:无州律师协会执业许可证据、使用不协调的网页域名、联系信息指向看似不存在的街道地址,以及指引用户通过即时通讯软件联系律师。

诈骗分子利用我们的模型生成社交媒体内容,以推广虚假的诈骗追回服务。
2. 建立信任(Zing): 诈骗分子试图通过生成模仿专门帮助诈骗受害者追回财务损失的律师语气和专业性的评论来获取目标信任。他们生成了声称来自律师人设的内容。我们在多个网站上识别出部分此类人设,其头像显然盗取自社交媒体或由 AI 生成。在某些情况下,诈骗分子在多家所谓律所间重复使用相同的“律师”身份。我们识别出的一个网站甚至冒充了 IC3。
这些诈骗网站上公布的联系方式将访客引导至 Telegram 等私密通讯应用。骗子使用 ChatGPT 起草发给目标对象的私信,谎称其行动受国际刑事法院(International Criminal Court)监督,并承诺在成功追回受害者的全部资金之前不会收取任何费用。3. 诱饵:骗子试图通过要求预先支付费用和押金来从目标对象处榨取钱财,声称这是在任何“追偿”之前的必要步骤。这包括指示目标对象在收到所谓已追回的款项前支付 15% 的“服务费”,要求缴纳激活账户的押金,以及收取“咨询费”。骗子使用 ChatGPT 起草的发给目标对象的消息中,包含发送加密货币付款并提供交易确认截图作为付款证明的指令。

一个冒充 FBI IC3 部门并与该骗局相关的网站。点击“提交投诉”会将访客引导至一个假冒的 Telegram 账号。
完成情况
该操作利用我们的模型支持其工作流程的多个环节,例如生成社交媒体宣传内容和向目标对象发送冷启动外联消息。然而,骗子最常使用 ChatGPT 来翻译与目标对象在私密通讯应用上的往来消息,其中包括要求用“美式英语”或以律师风格撰写回复的请求。
部分诈骗账号还利用我们的模型制作旨在增强可信度的欺骗性材料。这包括伪造的律师注册记录和伪造的律师协会会员证,以及虚假的保密协议,以阻止受害者寻求外部帮助。

一张使用我们的模型生成的伪造纽约州律师协会会员证。由 OpenAI 调查员进行脱敏处理。
影响
评估影响需要谨慎,因为主要证据来源是诈骗者自身的输入内容。这些输入表明,诈骗者可能已从个别受害者手中骗取了数千美元,但我们无法独立核实这些说法。美国联邦调查局(FBI)和至少一家被冒充的律师事务所已就该骗局发布公开警告。FBI 官员警告称,该行动针对的是弱势群体,尤其是老年人,利用诈骗受害者的情绪状态以及他们希望尽快追回损失资金的心理。
OpenAI 的政策严格禁止将我们工具的输出用于欺诈或诈骗活动,我们致力于与行业同行及当局合作,以了解 AI 如何影响对抗性行为,并积极打击滥用我们服务的诈骗活动。