OpenAI 发布六月恶意 AI 滥用拦截报告
原标题:Disrupting malicious uses of AI: June 2025
45AI 研判分
OpenAI 发布最新威胁情报报告,披露其检测与阻断恶意 AI 使用的具体案例。该报告旨在展示平台安全机制在应对滥用行为中的实际成效,属于常规周期性安全通报。
报道正文
- 研究
- 产品
- 企业
- 开发者
- 公司
- 基金会(在新窗口中打开)
- 研究
- 产品
- 企业
- 开发者
- 公司
- 基金会(在新窗口中打开)
OpenAI
2025年6月5日
打击 AI 的恶意使用:2025年6月报告
我们最新的报告,通过案例研究展示我们如何检测并防止 AI 的恶意使用。

加载中…
我们的使命是确保通用人工智能(AGI)造福全人类。我们通过部署创新技术来构建 AI 工具,帮助人们解决极具挑战性的难题,从而推进这一使命。
正如我们在三月向美国科学技术政策办公室(OSTP)提交的关于《美国 AI 行动计划》的提案中所阐述的那样,我们认为,要确保 AI 惠及尽可能多的人群,就需要制定旨在保护人们免受实际伤害的常识性规则以推动 AI 发展,并建设民主化的 AI。这包括防止威权政权利用 AI 工具积聚权力、控制公民或威胁胁迫其他国家;同时也包括防范隐蔽影响力行动(IO)、儿童剥削、诈骗、垃圾信息以及恶意网络活动等行为。
这也包括 利用 AI 为那些抵御此类滥用行为的人开发突破性的新工具。通过将 AI 作为我们专业调查团队的“力量倍增器”,自上次报告发布以来的三个月内,我们成功检测、阻断并揭露了包括社会工程攻击、网络间谍活动、欺骗性招聘计划、隐蔽影响力行动和诈骗在内的滥用行为。
作者
OpenAI