Ars Technica AIT2·基座大模型
68 分
为符合欧盟《人工智能法案》,OpenAI 宣布在欧盟地区默认对 ChatGPT 生成的文本添加专有“textGrain”水印,其他地区则需手动开启。该水印通过微调模型输出的词选分布嵌入不可见模式,旨在实现机器可检测性,但技术论文承认其易被具备基础知识的用户规避。目前检测工具仅向少数研究人员和机构开放申请。
Token Distribution
模型预测下一个词时各候选词的概率排列情况
为符合欧盟《人工智能法案》,OpenAI 宣布在欧盟地区默认对 ChatGPT 生成的文本添加专有“textGrain”水印,其他地区则需手动开启。该水印通过微调模型输出的词选分布嵌入不可见模式,旨在实现机器可检测性,但技术论文承认其易被具备基础知识的用户规避。目前检测工具仅向少数研究人员和机构开放申请。