OpenAI 发布调查报告,揭露俄罗斯“Dark Clark”与伊朗行动组利用 ChatGPT 生成虚假内容并植入合法新闻媒体,而非仅依赖社交媒体。其中俄方操作因导致拉美政客公开回应,成为 OpenAI 监测体系内首个被评定为最高风险等级(Category 5)的案例。尽管 AI 主要用于内部报告与多语言适配,但其通过伪造音频和文件成功触发厄瓜多尔等国官方辟谣,标志着 AI 影响力行动从线上噪音向线下政治实质干扰的升级。
影响力行动
Influence Operation
通过媒体或网络手段系统性改变公众认知或行为的活动
收录情报动态
OpenAI 宣布封禁一个疑似源自中国的网络集群,该集群被指控利用人工智能批量生成社交媒体内容,旨在批评美国数据中心及 AI 基础设施。此举揭示了生成式 AI 在跨国舆论操纵中的潜在滥用风险,以及平台方对合规与安全边界的最新执法动作。
OpenAI 封禁了一个与中方执法人员相关的账户,该账户被指控利用 AI 规划影响力行动、骚扰及网络作战。此举凸显了生成式 AI 在恶意社会工程与信息战中的潜在滥用风险。
OpenAI 近期封禁了一批源自俄罗斯、利用其模型生成关于乌克兰和北约等议题的德语政治内容的账号。此举揭示了生成式 AI 被用于跨国舆论操纵的新趋势,平台方正加强对此类滥用行为的识别与阻断。
OpenAI 在最新威胁情报报告中披露,已封禁利用 ChatGPT 批量生成菲律宾政治评论的账号。这些账号由营销公司 Comm&Sense 运营,通过 TikTok 和 Facebook 发布短文本以支持针对马科斯总统的政治影响力行动。尽管活动跨平台进行,但评估显示其实际传播影响有限,属于二级干扰操作。
OpenAI 近期封禁了一批疑似源自中国的账户,这些账户利用 AI 技术批量生成英文社交媒体帖子及西班牙语文章以制造虚假舆论。此举揭示了大模型在自动化影响力行动中的滥用风险,以及平台方加强内容真实性治理的最新动向。
OpenAI 宣布封禁了一批违规账号,这些账号被用于在 2024 年加纳总统选举期间生成文章、帖子及制造虚假互动。此举旨在打击利用人工智能进行隐蔽的政治影响力操作,维护平台生态与选举公正性。
OpenAI 调查证实,此前疯传的“俄罗斯水军因 GPT-4o 额度耗尽而报错”的截图为人为伪造。该事件由美国境内账号策划,旨在利用公众对俄信息战能力的刻板印象制造争议,涉事 OpenAI 与 X 平台账号均已被封禁。
OpenAI 封禁了名为“A2Z”的账户网络,该网络利用 AI 批量生成涉及选举、乌克兰及地缘政治的多语言影响力内容。此举旨在遏制通过自动化手段进行的大规模虚假信息与政治操纵行为。
OpenAI 宣布封禁与伊朗关联的“STORM-2035”影响力行动账号,这些账号利用 AI 生成针对美英选举的内容并在多平台发布。此举凸显了大模型在政治操纵中的滥用风险及平台治理的紧迫性。