术语slug: dormant-neurons

休眠神经元

Dormant Neurons

模型中平时低激活、可被重新编程以承载后门行为的神经元子集

收录情报动态

共 1 篇 · 第 1/1 页
Microsoft ResearchT1·基座大模型
78 分
微软揭示 Lazarus 后门可劫持 AI 智能体

微软研究院披露名为 Lazarus 的后门技术,可重新编程模型中的休眠神经元,在隐藏触发器出现时让正常 AI 智能体执行恶意指令。该攻击无需重新训练模型即可植入,常规安全评测难以发现,对具备工具或终端权限的智能体威胁尤为严重。微软 Foundry 已通过模型来源验证、环境扫描与密码学签名等手段加强防御。