谷歌 DeepMind 正式面向全球推出 SynthID Detector,简化了 AI 生成内容的识别流程。该工具不仅支持谷歌自家模型,还扩展至 OpenAI、NVIDIA 等合作伙伴生成的媒体内容,但明确无法检测未采用 SynthID 技术(如 Meta、微软)的内容,且对大幅修改后的内容存在误判风险。
数字水印
Digital Watermarking
将信息嵌入媒体内容中以实现版权保护或来源追踪的技术
收录情报动态
xAI 宣布将于 11 月 7 日起为 Grok 系列模型生成的文本添加隐形水印,以响应欧盟《人工智能法案》。该水印通过 Token 选择过程嵌入,全球 API 默认开启但允许管理员单独关闭。
Meta 最新研究指出,从带水印 API 输出中蒸馏的模型会在权重中保留隐藏的密钥特定痕迹。新方法 WM-Basin 通过分析文本梯度与固定探针模型的匹配度,在低误报率下将检测准确率提升至 79%,显著优于传统基于 Token 计数的方法,且对量化和剪枝具有鲁棒性。
OpenAI 和 Meta 高管在美国司法会议上指出,随着 AI 生成媒体质量提升且成本降低,传统科学手段难以识别深度伪造,严重威胁法律诉讼中的证据可靠性。尽管企业已尝试添加水印,但缺乏通用检测方案,目前司法实践中此类案例仍较少见。
Google 正式向公众开放其 AI 内容检测工具 SynthID,声称已有超过 1800 亿张图片和视频被植入该隐形数字水印。该检测器现已集成于 Google Search、Gemini 应用及 Chrome 浏览器中,日均处理百万次验证请求,旨在通过技术手段识别由生成式 AI 创建的内容以应对深度伪造风险。
谷歌将 SynthID AI 内容检测功能向全球用户开放,支持识别由 Gemini、Veo 等模型生成的媒体。该工具已集成至 Chrome 和 Gemini 应用,日均验证请求达百万次,但官方明确其检测结果并非百分之百准确。
Google DeepMind 推出 SynthID Detector 在线工具,专门用于识别嵌入在图像、音频和视频中的隐形数字水印。该工具仅能检测由特定合作厂商(如 Google 自家产品)生成的内容,并非通用的 AI 伪造检测器,且对上传文件的质量有较高要求。
谷歌正式向公众开放 SynthID AI 内容检测工具,并扩展至支持所有合作伙伴生成的隐形水印。此前该功能仅限内部测试或需通过 Gemini 模型间接查询,现在用户可通过专用网站直接验证图像、视频和音频中的 AI 标记。这一举措旨在降低识别 AI 生成内容的门槛,应对日益复杂的跨平台内容溯源需求。
Google 正式向公众开放 SynthID 验证网站,允许用户检测图片、视频和音频是否由 AI 生成。该工具此前仅面向记者和研究者测试,现已支持 JPG、MP4、WAV 等主流格式,旨在通过数字水印技术对抗 AI 内容泛滥。尽管提供了便捷的验证入口,但此类工具在识别自家模型生成的裁剪或修改内容时仍存在局限性。
OpenAI 宣布将在欧盟地区为 ChatGPT 和 Codex 生成的文本添加隐形水印,以符合《欧盟人工智能法案》的透明度要求。该水印通过微调模型用词模式实现,不依赖可见符号且随文本复制传播,目前仅对欧盟用户默认开启,全球 API 开发者需手动启用。