术语slug: model-provenance-verification

模型来源验证

Model Provenance Verification

核验模型权重来源与发布者身份、保障供应链完整性的安全机制

收录情报动态

共 1 篇 · 第 1/1 页
Microsoft ResearchT1·基座大模型
78 分
微软揭示 Lazarus 后门可劫持 AI 智能体

微软研究院披露名为 Lazarus 的后门技术,可重新编程模型中的休眠神经元,在隐藏触发器出现时让正常 AI 智能体执行恶意指令。该攻击无需重新训练模型即可植入,常规安全评测难以发现,对具备工具或终端权限的智能体威胁尤为严重。微软 Foundry 已通过模型来源验证、环境扫描与密码学签名等手段加强防御。