术语slug: deepfake

深度伪造

Deepfake

利用生成式模型合成或模仿真人声音、形象与风格的内容

收录情报动态

共 16 篇 · 第 1/2 页
TechCrunch AIT2·开发与工程
62 分
Spotify 上线艺人主页保护工具 遏制 AI 深度伪造冒名

Spotify 将“艺人主页保护”工具从测试阶段推向全体艺人,允许艺人监控并控制挂在自己名下的音乐,以应对深度伪造、元数据错误和同名混淆导致的冒名问题。该功能上线之际,索尼音乐已要求各平台下架超过 26 万首深度伪造歌曲,较其 3 月披露的数字接近翻倍。

IT之家 · 智能时代T2·商业与生态
58 分
三人用 AI 伪造高管与律师声音影像 诈骗逾 1 亿美元

美国司法部起诉三名嫌疑人,指控其在 2024 至 2026 年间利用 AI 伪造企业高管与律所律师的声音和影像,诱导全球多家企业员工转账,涉案金额超 1.29 亿美元。赃款随后被兑换为加密货币以掩盖资金流向,三人分别于西班牙和英国落网,面临电信欺诈、洗钱共谋与加重身份盗用指控。

IT之家 · IT业界T2·商业与生态
58 分
广电总局启动新一轮微短剧治理 聚焦 AI 低俗同质化

国家广播电视总局自 11 月 1 日起开展为期两个月的微短剧低俗化同质化专项治理,首次将 AI 微短剧质量参差、AI 助长低俗内容反弹列为核心问题。治理覆盖内容创作与传播推广两端,包括“盗脸”“偷声”、换名反复播出及算法推荐同质化,并同步推进精品创作扶持计划。

IT之家 · IT业界T2·商业与生态
58 分
广电总局定调微短剧:扶持真人剧、规范 AI 剧

国家广电总局在微短剧论坛上重申“扶持真人剧、规范 AI 剧”的监管基调,要求平台落实“凡播必审、全量人审”,并加大对 AI 洗稿、盗版翻拍及未经授权使用肖像声音的打击力度。背景是全国微短剧用户已超 8 亿、今年前 8 个月上线 43 万部且 AI 剧占比超九成,监管将直接影响 AI 内容生成在短剧赛道的落地方式。

Hacker News AIT2·商业与生态
62 分
Cuban 指控 Meta 明知故犯投放 AI 深度伪造诈骗广告

投资人 Mark Cuban 公开指控 Meta 明知平台存在 AI 深度伪造诈骗广告仍放任投放,并援引内部文件称相关欺诈收入规模达 160 亿美元。Meta 回应称已下架逾 1.34 亿条诈骗广告、用户投诉下降 58%,但文件同时显示 SEC 正就金融欺诈相关广告对 Meta 展开调查。事件核心是 AI 生成内容被用于广告诈骗的治理责任归属。

IT之家 · 智能时代T2·商业与生态
42 分
OpenAI 与 Meta 警告深度伪造威胁司法证据可靠性

OpenAI 和 Meta 高管在美国司法会议上指出,随着 AI 生成媒体质量提升且成本降低,传统科学手段难以识别深度伪造,严重威胁法律诉讼中的证据可靠性。尽管企业已尝试添加水印,但缺乏通用检测方案,目前司法实践中此类案例仍较少见。

The Verge AIT2·商业与生态
42 分
名人 AI 深伪内容泛滥社交媒体:验证标识失效与平台监管缺位引发信任危机

大量伪造名人的 AI 图像和视频在社交媒体上获得数百万浏览量,甚至利用虚假的“已验证”蓝标误导公众。尽管存在明显的逻辑漏洞和人物特征不符,平台方目前缺乏有效的主动干预机制,导致深伪内容的传播阻力极低。这一现象凸显了当前数字身份认证体系在生成式 AI 冲击下的脆弱性。

IT之家 · 智能时代T2·商业与生态
35 分
广电总局公布 9 月 AI 魔改视频治理数据:清理违规近 1.3 万条并处置账号 30 余个

国家广播电视总局通报 2026 年 9 月“AI 魔改”视频专项治理成果,重点网络视听平台共清理违规视频近 13000 条、处置违规账号 30 余个。该行动旨在打击基于经典影视及历史题材的恶意篡改内容,自 2 月起已转入常态化长效监管机制。

The DecoderT2·商业与生态
68 分
OpenAI 披露俄伊利用 ChatGPT 渗透传统媒体:首现五级政治影响案例,伪造音频引发多国官方辟谣

OpenAI 发布调查报告,揭露俄罗斯“Dark Clark”与伊朗行动组利用 ChatGPT 生成虚假内容并植入合法新闻媒体,而非仅依赖社交媒体。其中俄方操作因导致拉美政客公开回应,成为 OpenAI 监测体系内首个被评定为最高风险等级(Category 5)的案例。尽管 AI 主要用于内部报告与多语言适配,但其通过伪造音频和文件成功触发厄瓜多尔等国官方辟谣,标志着 AI 影响力行动从线上噪音向线下政治实质干扰的升级。