OpenAI 披露“Tort Report”滥用案例:越南账号利用模型生成评论恶意举报独立媒体
OpenAI 在威胁情报报告中披露了一起名为“Tort Report”的滥用行为,少数越南语账号利用其模型生成短评论,旨在向 Facebook 和 YouTube 恶意举报独立媒体内容。尽管该活动未导致目标帖子被下架(影响评级为最低级 Category 1),但揭示了大模型被用于自动化制造虚假举报以压制异见的新兴风险模式。
报道正文
本文目录4 个章节
本案例研究最初发表于 OpenAI 的 2024 年 10 月(在新窗口中打开)报告中。
行为主体
我们封禁了少量主要使用越南语操作的账户,这些账户生成的评论似乎旨在针对 Facebook 和 YouTube 上越南独立媒体发布的帖子进行举报。截至本报告发布之日,这些账户所针对的任何 Facebook 或 YouTube 帖子均未被下架。鉴于此类活动似乎旨在进行滥用性举报——与 Meta 在 2021 年 12 月描述的情况类似——我们将此活动命名为“Tort Report”(折磨式举报)。
行为模式
该活动的重点在于生成简短评论,用于对越南独立媒体在 YouTube 和 Facebook 上发布的视频发起社交媒体举报。这似乎并未包含任何试图让模型观看、转录或以其他方式摄取视频详细内容的努力:其关注点仅限于视频标题及任何描述文本。由于我们的可见性有限,我们没有证据确定是否有任何举报实际提交给了 Facebook 或 YouTube。在我们识别出这些举报中具体引用的 Facebook 和 YouTube 帖子时,这些帖子仍在线,表明即使有举报发出,也未产生效果。

该行动针对并试图举报的 YouTube 视频。截至 7 月 15 日,该视频仍在线。标题翻译为:“金刚守护者揭露明慧大师的剥削本质。”
生成内容
该行动生成的内容为适合用作社交媒体举报的英语和越南语简短评论。由于输入仅限于帖子标题和文本,而非整个视频,因此生成的评论通常较为笼统,声称相关视频违反规则,但未指明具体的违规证据。
影响评估
我们没有发现任何迹象表明,此次行动所针对的帖子受到限制或被屏蔽。使用“突破等级”(Breakout Scale)来评估信息操纵(IO)的影响——该量表将影响程度从 1(最低)到 6(最高)进行分级——我们将此次行动评定为第 1 类操作,因为我们未观察到其活动对所针对的两个平台产生任何影响。