术语slug: skill-backdoor

技能后门

Skill Backdoor

被植入恶意规则的可复用智能体技能,在后续任务中被反复触发执行

收录情报动态

共 1 篇 · 第 1/1 页
Rohan Paul (@rohanpaul_ai)T2·智能体与协同
78 分
宾州州立大学新研究揭示自进化智能体技能后门注入风险

宾州州立大学论文提出 BadEvolve 攻击,仅向自进化智能体的学习集注入 20 个经 LLM 优化的恶意任务,即可让智能体把攻击者指定的后门规则写入可复用技能。在 Kimi-K2.5 上跨 4 个框架、3 个基准测试中,攻击成功率达 79.6%,远超最佳基线 37.6%,而干净任务准确率仅下降 1.1 个百分点,隐蔽性极强。研究提示,凡从用户提交或外部任务中学习技能的智能体,都应把这类任务视为不可信输入,并在复用前审查已学技能。