Rohan Paul (@rohanpaul_ai)T2·85 分
Meta 提出 WM-Basin 检测蒸馏模型水印残留
原标题:New Meta paper finds that a model distilled from watermarked API outputs keeps a hidden, key-specifi...
- 蒸馏模型权重中会保留源自水印 API 输出的隐藏、密钥特定方向痕迹
- WM-Basin 通过计算可疑文本相对于固定探针模型的梯度来识别真实密钥
- 在 1200 个蒸馏模型测试中,该方法以 0.1% 误报率达到 79% 检出率,远超传统方法的 29%
- 量化、轻度剪枝和 RL 后训练无法消除该痕迹,但大量干净数据微调可减弱其影响