返回全部资讯
OpenAI 官方博客T1·商业与生态

OpenAI 发布十月恶意 AI 滥用拦截报告

原标题:Disrupting malicious uses of AI: October 2025
45AI 研判分

OpenAI 于 2025 年 10 月发布最新安全透明度报告,披露其拦截恶意使用 AI 的具体案例与数据。该报告旨在展示平台在防止模型被用于网络攻击、虚假信息等有害场景中的防御机制与成效。

报道正文

跳转至主要内容

登录试用 ChatGPT(在新窗口中打开)

试用 ChatGPT(在新窗口中打开)登录

OpenAI

2025 年 10 月 7 日

全球事务

打击 AI 恶意使用:2025 年 10 月更新

Image 1: Abstract image with soft pastel gradients of pink, lavender, and blue blending smoothly, creating a gentle, airy atmosphere.

加载中…

Audio 2

分享

我们的使命是确保通用人工智能造福全人类。我们通过部署创新技术帮助人们解决难题,并构建基于常识规则、保护人们免受实际伤害的民主化 AI 来推进这一使命。

自我们于 2024 年 2 月开始公开威胁报告以来,我们已破坏并报告了超过 40 个违反我们使用政策的网络。这包括阻止威权政权利用 AI 控制民众或胁迫其他国家,以及诈骗、恶意网络活动和隐蔽影响力行动等滥用行为。

在本次更新中,我们将分享过去一个季度的案例研究,以及我们如何检测和破坏对我们模型的恶意使用。我们持续观察到,威胁行为者只是将 AI 附加到旧有的攻击剧本中以加快速度,而非从我们的模型中获得新的进攻能力。当活动违反我们的政策时,我们会封禁相关账户,并在适当情况下与合作伙伴分享洞察信息。我们的公开报告、政策执行以及与同行的协作旨在提高对滥用行为的认识,同时加强对普通用户的保护。

作者

Ben Nimmo, Kimo Bumanglag, Michael Flossman, Nathaniel Hartley, Jack Stubbs, Albert Zhang