术语slug: llm-watermarking

大模型水印

LLM Watermarking

在生成文本中嵌入不可见统计特征以标识来源的技术

收录情报动态

共 1 篇 · 第 1/1 页
Ars Technica AIT2·基座大模型
68 分
OpenAI 在欧盟默认启用 ChatGPT 文本水印

为符合欧盟《人工智能法案》,OpenAI 宣布在欧盟地区默认对 ChatGPT 生成的文本添加专有“textGrain”水印,其他地区则需手动开启。该水印通过微调模型输出的词选分布嵌入不可见模式,旨在实现机器可检测性,但技术论文承认其易被具备基础知识的用户规避。目前检测工具仅向少数研究人员和机构开放申请。