术语slug: adversarial-misuse

对抗性滥用

Adversarial Misuse

故意将 AI 系统用于违反伦理、法律或安全目的的行为

收录情报动态

共 6 篇 · 第 1/1 页
The DecoderT2·商业与生态
68 分
OpenAI 工程师涉嫌植入窃听设备被捕:利用 AI 辅助编程构建隐蔽录音装置

沙特籍 OpenAI 工程师 Abdulrahman Alfozan 因涉嫌在高管会议室隐藏音频录制设备而被捕,该设备伪装成 USB 插头并藏于卫生纸中。据报道,嫌疑人利用其妻子的聊天机器人账户通过“氛围编码”(vibe-coding)方式开发了这一监控硬件,凸显了生成式 AI 降低恶意工具开发门槛的安全风险。

MIT Technology ReviewT2·商业与生态
68 分
开源模型安全争议升级:Anthropic 指控 GLM-5.3 助长网络攻击,Nvidia 力挺开放生态

Anthropic 发布报告警告中国 Z.ai 的开源模型 GLM-5.3 因可自由下载修改而构成重大网络攻击风险,引发关于前沿 AI 是否应保持封闭的激烈辩论。与此同时,Nvidia CEO 黄仁勋基于硬件销售利益积极倡导美国发展更多开源模型,凸显了商业利益与安全考量在开源策略上的深层冲突。

OpenAI 官方博客T1·商业与生态
42 分
OpenAI 封禁利用 ChatGPT 实施诈骗的账户集群

OpenAI 在最新安全报告中披露,已封禁一批利用 ChatGPT 生成虚假律所内容和冒充执法机构(如 FBI IC3)的账户。这些活动疑似源自柬埔寨,旨在对欺诈受害者实施“二次收割”式恢复服务诈骗。该案例展示了大模型被用于自动化生成高可信度钓鱼内容的风险及平台方的主动干预措施。

OpenAI 官方博客T1·商业与生态
68 分
OpenAI 封禁涉俄恶意软件账户

OpenAI 封禁了疑似与俄语犯罪团伙关联的账户,这些账户利用 AI 构建恶意软件加载器、规避层及凭证窃取脚本。此举揭示了生成式 AI 在自动化网络攻击基础设施中的实际滥用风险,迫使平台加强安全审查。

OpenAI 官方博客T1·商业与生态
42 分
OpenAI 封禁滥用 AI 的欺诈求职账号

OpenAI 近期封禁了一批涉嫌参与“欺骗性就业计划”的账户,这些用户利用 AI 生成材料以辅助潜在的虚假远程工作申请。此举旨在打击将大模型用于制造欺诈性简历或自动化投递的行为,维护平台安全与合规底线。

OpenAI 官方博客T1·商业与生态
42 分
OpenAI 披露“Tort Report”滥用案例:越南账号利用模型生成评论恶意举报独立媒体

OpenAI 在威胁情报报告中披露了一起名为“Tort Report”的滥用行为,少数越南语账号利用其模型生成短评论,旨在向 Facebook 和 YouTube 恶意举报独立媒体内容。尽管该活动未导致目标帖子被下架(影响评级为最低级 Category 1),但揭示了大模型被用于自动化制造虚假举报以压制异见的新兴风险模式。