新智元 (微信公众号)T2·68 分
清华北邮揭示扩散式视觉模型安全新漏洞
原标题:EMNLP'26 | 清华北邮联合警告:扩散式VLM的安全防线步步失守
- 离散扩散视觉语言模型(dVLM)在每一轮去噪中都会重新使用视觉条件,不同于自回归模型的一次性注入。
- 这种特性导致隐藏的图像风险信号通过“跨步条件传播”在生成轨迹中累积,形成新的越狱攻击面。
- DIVA 攻击方法证实了该漏洞的有效性,提示 dVLM 的安全防御必须覆盖整个动态生成过程而非仅检查初始输入。
AI 聚合热点事件 · 2026/10/16
清华大学与北京邮电大学联合研究指出,离散扩散视觉语言模型(dVLM)存在“跨步条件传播”安全隐患。该机制导致图像风险信号在去噪生成过程中被反复注入并累积,从而绕过传统静态安全对齐。团队提出 DIVA 越狱攻击方法验证了这一漏洞,表明 dVLM 的安全防御需从输入检查转向对动态生成轨迹的全程监控。
曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。
原标题:EMNLP'26 | 清华北邮联合警告:扩散式VLM的安全防线步步失守