OpenAI 披露中国关联 AI 影响力行动:利用 ChatGPT 操纵美国数据中心与关税辩论
OpenAI 发布报告称,已封禁两批疑似源自中国的 ChatGPT 账户集群,这些账户被用于生成虚假社交媒体评论和图像,以操纵关于美国 AI 数据中心建设推高电价以及科技关税政策的公共辩论。该事件揭示了生成式 AI 正成为地缘政治信息战的新工具,凸显了平台在识别和阻断自动化影响力行动方面的责任与挑战。
报道正文
我们的使命是确保通用人工智能惠及全人类。我们通过部署创新成果来推进这一使命,致力于构建民主化 AI:即遵循民主原则、受常识性规则约束、旨在帮助人们解决难题同时保护其免受真实伤害的 AI。该使命还要求我们识别并阻断威权政权及其代理人利用 AI 系统胁迫批评者、监控社区或暗中干涉民主社会的企图。
在本报告中,我们描述了两组疑似源自中国的 ChatGPT 账号集群。这些账号因利用我们的模型支持明显的隐蔽影响力行动而被封禁,此类行动旨在通过推广特定叙事来操纵关于美国 AI 及更广泛科技政策的正当辩论。
第一组集群生成了社交媒体评论和图片,声称用于 AI 的数据中心建设导致普通家庭的电价上涨。我们将此集群命名为“数据中心跟风”(Data Center Bandwagon)活动。
第二组集群生成了批评美国关税的评论和图片,指责关税是试图主导技术竞争的手段,并在提示词中明确要求输出内容不得包含中国领导人习近平,而仅应包含特朗普总统。该集群与一个疑似非真实的社交媒体账号网络有关联,这些账号也疑似针对 OpenAI,声称 ChatGPT 用户数据已被泄露。这些指控完全失实。我们将这第二组集群命名为“科技与关税”(Tech and Tariffs)活动。
针对 OpenAI 及美国数据中心建设的攻击之所以意义重大,并非因为该行动似乎改变了公众舆论,而是因为它表明源自中国的影响力操作者正在测试针对 AI 基础设施的叙事策略——而 AI 基础设施正是美国技术领导力、经济增长以及更广泛民主化 AI 生态系统的基石。该行动试图利用并放大公众对能源价格及数据中心建设本地影响的既有担忧,但我们未发现其影响力突破自身活动范围的实质性证据。外国影响力行动长期以来一直试图依附于现有的本地议题和真诚持有的信念,以此建立可信度、加剧分裂或加深公众的不信任感。在本案例中,操作者试图秘密介入关于美国 AI 能力未来的持续辩论,同时隐藏其身份及动机。
通过发布这些发现,我们旨在帮助业界、政府、公民社会及公众更好地识别并阻断外国威胁行为者操纵正当公共辩论、削弱民主制度以及推进具有极权特征的 AI(即利用 AI 进行监控、审查以及对政治、社会和私人生活的控制)的企图。