Rohan Paul (@rohanpaul_ai)T2·78 分
宾州州立大学新研究揭示自进化智能体技能后门注入风险
原标题:New Penn State paper shows that attackers can make self-evolving AI agents plant backdoors in their ...
- BadEvolve 仅需注入 20 个经 LLM 优化的恶意任务,即可让智能体把后门规则固化进可复用技能
- 在 Kimi-K2.5 上跨 4 框架 3 基准测试注入成功率达 79.6%,最佳基线仅 37.6%
- 干净任务准确率仅下降 1.1 个百分点,后门极难被常规评测发现
- 防御建议:将外部或用户提交的学习任务视为不可信输入,复用前审查已学技能