OpenAI 发布十月恶意 AI 滥用拦截报告
原标题:Disrupting malicious uses of AI: October 2025
45AI 研判分
OpenAI 于 2025 年 10 月发布最新安全透明度报告,披露其拦截恶意使用 AI 的具体案例与数据。该报告旨在展示平台在防止模型被用于网络攻击、虚假信息等有害场景中的防御机制与成效。
报道正文
- 研究
- 产品
- 企业
- 开发者
- 公司
- 基金会(在新窗口中打开)
- 研究
- 产品
- 企业
- 开发者
- 公司
- 基金会(在新窗口中打开)
OpenAI
2025 年 10 月 7 日
打击 AI 恶意使用:2025 年 10 月更新

加载中…
分享
我们的使命是确保通用人工智能造福全人类。我们通过部署创新技术帮助人们解决难题,并构建基于常识规则、保护人们免受实际伤害的民主化 AI 来推进这一使命。
自我们于 2024 年 2 月开始公开威胁报告以来,我们已破坏并报告了超过 40 个违反我们使用政策的网络。这包括阻止威权政权利用 AI 控制民众或胁迫其他国家,以及诈骗、恶意网络活动和隐蔽影响力行动等滥用行为。
在本次更新中,我们将分享过去一个季度的案例研究,以及我们如何检测和破坏对我们模型的恶意使用。我们持续观察到,威胁行为者只是将 AI 附加到旧有的攻击剧本中以加快速度,而非从我们的模型中获得新的进攻能力。当活动违反我们的政策时,我们会封禁相关账户,并在适当情况下与合作伙伴分享洞察信息。我们的公开报告、政策执行以及与同行的协作旨在提高对滥用行为的认识,同时加强对普通用户的保护。
作者
Ben Nimmo, Kimo Bumanglag, Michael Flossman, Nathaniel Hartley, Jack Stubbs, Albert Zhang