模型slug: kimi-k2-5

Kimi-K2.5

月之暗面 Kimi 系列大模型,本文攻击实验的主要目标模型

收录情报动态

共 1 篇 · 第 1/1 页
Rohan Paul (@rohanpaul_ai)T2·智能体与协同
78 分
宾州州立大学新研究揭示自进化智能体技能后门注入风险

宾州州立大学论文提出 BadEvolve 攻击,仅向自进化智能体的学习集注入 20 个经 LLM 优化的恶意任务,即可让智能体把攻击者指定的后门规则写入可复用技能。在 Kimi-K2.5 上跨 4 个框架、3 个基准测试中,攻击成功率达 79.6%,远超最佳基线 37.6%,而干净任务准确率仅下降 1.1 个百分点,隐蔽性极强。研究提示,凡从用户提交或外部任务中学习技能的智能体,都应把这类任务视为不可信输入,并在复用前审查已学技能。