返回全部资讯
OpenAI 官方博客T1·商业与生态

OpenAI 发布六月恶意 AI 滥用拦截报告

原标题:Disrupting malicious uses of AI: June 2025
45AI 研判分

OpenAI 发布最新威胁情报报告,披露其检测与阻断恶意 AI 使用的具体案例。该报告旨在展示平台安全机制在应对滥用行为中的实际成效,属于常规周期性安全通报。

报道正文

跳至主要内容

登录试用 ChatGPT(在新窗口中打开)

试用 ChatGPT(在新窗口中打开)登录

OpenAI

2025年6月5日

全球事务

打击 AI 的恶意使用:2025年6月报告

我们最新的报告,通过案例研究展示我们如何检测并防止 AI 的恶意使用。

Image 1: Soft pastel abstract background with blended shades of pink, purple, and blue.

加载中…

Audio 2

我们的使命是确保通用人工智能(AGI)造福全人类。我们通过部署创新技术来构建 AI 工具,帮助人们解决极具挑战性的难题,从而推进这一使命。

正如我们在三月向美国科学技术政策办公室(OSTP)提交的关于《美国 AI 行动计划》的提案⁠中所阐述的那样,我们认为,要确保 AI 惠及尽可能多的人群,就需要制定旨在保护人们免受实际伤害的常识性规则以推动 AI 发展,并建设民主化的 AI。这包括防止威权政权利用 AI 工具积聚权力、控制公民或威胁胁迫其他国家;同时也包括防范隐蔽影响力行动(IO)、儿童剥削、诈骗、垃圾信息以及恶意网络活动等行为。

这也包括 利用 AI 为那些抵御此类滥用行为的人开发突破性的新工具。通过将 AI 作为我们专业调查团队的“力量倍增器”,自上次报告发布以来的三个月内,我们成功检测、阻断并揭露了包括社会工程攻击、网络间谍活动、欺骗性招聘计划、隐蔽影响力行动和诈骗在内的滥用行为。

作者

OpenAI