OpenAI 官方博客T1·商业与生态
68 分
OpenAI 在最新威胁情报报告中披露,已封禁一批被检测出利用其模型进行隐蔽影响力活动的 ChatGPT 账户。这些账户主要使用中文提示词,不仅批量生成多语言社交媒体评论以操纵舆论,还被观察到用于起草内部绩效考核文件。尽管有用户自称来自宣传部门,但 OpenAI 强调目前缺乏独立证据验证该身份声明。
Covert Influence Operation
隐藏真实身份或意图以操纵公众意见的政治活动
OpenAI 在最新威胁情报报告中披露,已封禁一批被检测出利用其模型进行隐蔽影响力活动的 ChatGPT 账户。这些账户主要使用中文提示词,不仅批量生成多语言社交媒体评论以操纵舆论,还被观察到用于起草内部绩效考核文件。尽管有用户自称来自宣传部门,但 OpenAI 强调目前缺乏独立证据验证该身份声明。
OpenAI 识别并封禁了一批被用于伊朗隐蔽影响力行动(代号 Storm-2035)的 ChatGPT 账号。该行动利用 AI 生成内容以操纵舆论,OpenAI 强调正通过自身模型加强此类滥用检测与透明度建设。
OpenAI 发布报告称,过去三个月内成功识别并阻断了五起试图利用其模型进行欺骗性舆论操纵的隐蔽影响行动(IO)。数据显示,这些被中断的行动在受众参与度和传播范围上均未产生实质性增长,且多数案例的影响等级低于 2 级。该事件凸显了 AI 安全护栏在防御恶意滥用方面的有效性,以及 AI 工具在威胁情报调查中的辅助作用。