术语slug: abuse-detection

滥用检测

Abuse Detection

识别用户违反服务条款或进行恶意行为的技术手段

收录情报动态

共 8 篇 · 第 1/1 页
Anthropic NewsT1·商业与生态
42 分
Anthropic 推出企业前沿安全护栏 EFS

Anthropic 宣布推出“企业前沿安全护栏”(EFS),旨在结合零数据保留(ZDR)隐私保护与先进的滥用检测机制。该方案通过将数据存储在客户控制的云基础设施中,解决了企业在使用前沿模型时的安全合规困境,预计今秋分阶段向 Claude Code、Bedrock 等平台用户推送。

OpenAI 官方博客T1·商业与生态
45 分
OpenAI 捣毁柬埔寨 AI 诈骗网络

OpenAI 宣布成功干扰并瓦解了一个位于柬埔寨的犯罪诈骗团伙。该团伙利用 ChatGPT 辅助实施投资、浪漫、赌博及身份冒充等多种欺诈活动。此举凸显了大模型在恶意滥用场景下的安全治理挑战与响应能力。

OpenAI 官方博客T1·商业与生态
45 分
OpenAI 封禁疑似中国来源滥用账号

OpenAI 宣布封禁一批疑似源自中国的账户,这些账户被指控利用 AI 工具针对美国个人、地点及社交工程战术进行情报搜集。此举凸显了生成式 AI 在恶意侦察与网络间谍活动中的新型滥用风险,以及平台方加强合规监控的趋势。

OpenAI 官方博客T1·商业与生态
45 分
OpenAI 封禁利用 AI 实施杀猪盘的账户

OpenAI 宣布封禁了一批利用其模型支持“杀猪盘”诈骗工作流的账户。这些被禁用的应用场景涵盖自动外联、多语言翻译、受害者情感互动以及诱导投资欺诈等环节,标志着平台对滥用生成式 AI 进行社会工程学攻击的打击力度升级。

OpenAI 官方博客T1·商业与生态
45 分
OpenAI 封禁伊朗“风暴-2035”账号

OpenAI 识别并封禁了一批被用于伊朗隐蔽影响力行动(代号 Storm-2035)的 ChatGPT 账号。该行动利用 AI 生成内容以操纵舆论,OpenAI 强调正通过自身模型加强此类滥用检测与透明度建设。