Anthropic 宣布推出“企业前沿安全护栏”(EFS),旨在结合零数据保留(ZDR)隐私保护与先进的滥用检测机制。该方案通过将数据存储在客户控制的云基础设施中,解决了企业在使用前沿模型时的安全合规困境,预计今秋分阶段向 Claude Code、Bedrock 等平台用户推送。
术语slug: abuse-detection
滥用检测
Abuse Detection
识别用户违反服务条款或进行恶意行为的技术手段
收录情报动态
Anthropic NewsT1·商业与生态
42 分
OpenAI 官方博客T1·商业与生态
45 分
OpenAI 宣布成功干扰并瓦解了一个位于柬埔寨的犯罪诈骗团伙。该团伙利用 ChatGPT 辅助实施投资、浪漫、赌博及身份冒充等多种欺诈活动。此举凸显了大模型在恶意滥用场景下的安全治理挑战与响应能力。
OpenAI 官方博客T1·商业与生态
45 分
OpenAI 宣布封禁一批疑似源自中国的账户,这些账户被指控利用 AI 工具针对美国个人、地点及社交工程战术进行情报搜集。此举凸显了生成式 AI 在恶意侦察与网络间谍活动中的新型滥用风险,以及平台方加强合规监控的趋势。
OpenAI 官方博客T1·商业与生态
45 分
OpenAI 宣布封禁了一批利用其模型支持“杀猪盘”诈骗工作流的账户。这些被禁用的应用场景涵盖自动外联、多语言翻译、受害者情感互动以及诱导投资欺诈等环节,标志着平台对滥用生成式 AI 进行社会工程学攻击的打击力度升级。
OpenAI 官方博客T1·商业与生态
45 分
OpenAI 于 2025 年 10 月发布最新安全透明度报告,披露其拦截恶意使用 AI 的具体案例与数据。该报告旨在展示平台在防止模型被用于网络攻击、虚假信息等有害场景中的防御机制与成效。
OpenAI 官方博客T1·商业与生态
42 分
OpenAI 近期封禁了多个使用其模型进行恶意软件开发、调试及钓鱼攻击的韩语账户。此举旨在遏制利用大语言模型辅助网络犯罪的工作流,包括凭证窃取等高危行为。
OpenAI 官方博客T1·商业与生态
45 分
OpenAI 近期封禁了一批使用其模型构建恶意软件、优化加载器及调试网络攻击工具的俄语用户账户。此举旨在遏制利用大语言模型降低网络犯罪门槛的行为,标志着 AI 安全治理从被动防御转向主动阻断滥用链条。
OpenAI 官方博客T1·商业与生态
45 分
OpenAI 识别并封禁了一批被用于伊朗隐蔽影响力行动(代号 Storm-2035)的 ChatGPT 账号。该行动利用 AI 生成内容以操纵舆论,OpenAI 强调正通过自身模型加强此类滥用检测与透明度建设。