Cisco Talos 发现新型 Windows 恶意木马 VOLTA,该工具利用 Anthropic Claude 等在线 AI 模型分析受害者数据以评估其经济价值。这种“先收集后评估”的模式标志着网络攻击正从大规模无差别投放转向高精准度的目标筛选,显著增加了追踪难度与个人数据泄露风险。
社会工程学
Social Engineering
利用心理操纵诱骗人泄露机密或执行特定动作的攻击方式
收录情报动态
Google DeepMind 与新加坡政府科技局(GovTech)合作推出了一款轻量级端侧 AI 模型,专门用于实时检测复杂的社交工程诈骗。该模型直接在用户设备上运行,无需上传聊天数据,从而在有效拦截诈骗的同时严格保障公民隐私。这一举措展示了大模型提供商与政府机构协作构建公共安全技术的新范式,未来有望被集成至操作系统和即时通讯平台中。
OpenAI 宣布成功干扰并瓦解了一个位于柬埔寨的犯罪诈骗团伙。该团伙利用 ChatGPT 辅助实施投资、浪漫、赌博及身份冒充等多种欺诈活动。此举凸显了大模型在恶意滥用场景下的安全治理挑战与响应能力。
OpenAI 宣布封禁一批疑似源自中国的账户,这些账户被指控利用 AI 工具针对美国个人、地点及社交工程战术进行情报搜集。此举凸显了生成式 AI 在恶意侦察与网络间谍活动中的新型滥用风险,以及平台方加强合规监控的趋势。
OpenAI 宣布封禁了一批利用其模型支持“杀猪盘”诈骗工作流的账户。这些被禁用的应用场景涵盖自动外联、多语言翻译、受害者情感互动以及诱导投资欺诈等环节,标志着平台对滥用生成式 AI 进行社会工程学攻击的打击力度升级。
OpenAI 在最新安全报告中披露,已封禁一批利用 ChatGPT 生成虚假律所内容和冒充执法机构(如 FBI IC3)的账户。这些活动疑似源自柬埔寨,旨在对欺诈受害者实施“二次收割”式恢复服务诈骗。该案例展示了大模型被用于自动化生成高可信度钓鱼内容的风险及平台方的主动干预措施。
OpenAI 宣布封禁一批与在线欺诈网络相关的账户,这些账户利用 AI 技术生成诈骗脚本、实施身份冒充及翻译以诱导受害者。此举旨在遏制 AI 被恶意用于自动化社会工程学攻击的趋势。
OpenAI 封禁了疑似源自柬埔寨的账户,这些账户利用 AI 技术支持针对英国用户的“错误号码”任务诈骗。此举揭示了生成式 AI 在自动化社会工程学攻击中的滥用趋势,平台正通过风控手段遏制此类黑产工作流。
OpenAI 封禁了一组利用 ChatGPT 生成社交媒体帖子、分析数据及翻译邮件的账户,该行动被命名为“VAGue Focus”。这些账户伪装成地缘政治实体员工,试图通过中文提示词在特定时区进行隐蔽的社会工程活动。尽管证据显示其内容传播范围有限,但该案例揭示了大模型在协助跨国界信息操纵中的潜在风险。
OpenAI 近期封禁了一批疑似源自柬埔寨的账户,这些账户利用 AI 技术翻译并生成用于“杀猪盘”诈骗的浪漫与投资对话。此举揭示了生成式 AI 在自动化社会工程攻击中的滥用趋势,以及平台方针对特定地域性欺诈模式的合规干预。