返回热点榜
agent热度 16.1°

AI 聚合热点事件 · 2026/11/17

宾州州立大学新研究揭示自进化智能体技能后门注入风险

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/17 09:58:00
全景综述与最新动态
1 家信源交叉印证

宾州州立大学论文提出 BadEvolve 攻击,仅向自进化智能体的学习集注入 20 个经 LLM 优化的恶意任务,即可让智能体把攻击者指定的后门规则写入可复用技能。在 Kimi-K2.5 上跨 4 个框架、3 个基准测试中,攻击成功率达 79.6%,远超最佳基线 37.6%,而干净任务准确率仅下降 1.1 个百分点,隐蔽性极强。研究提示,凡从用户提交或外部任务中学习技能的智能体,都应把这类任务视为不可信输入,并在复用前审查已学技能。

最新动向/宾州州立大学论文提出 BadEvolve 攻击,仅向自进化智能体的学习集注入 20 个经 LLM 优化的恶意任务,即可让智能体把攻击者指定的后门规则写入可复用技能。在 Kimi-K2.5 上跨 4 个框架、3 个基准测试中,攻击成功率达 79.6%,远超最佳基线 37.6%,而干净任务准确率仅下降 1.1 个百分点,隐蔽性极强。研究提示,凡从用户提交或外部任务中学习技能的智能体,都应把这类任务视为不可信输入,并在复用前审查已学技能。

逐小时热度走势

3 个完整观测小时
当前
16.1
峰值
16.710:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 1 篇 · 最新优先
  1. Rohan Paul (@rohanpaul_ai)T2·78 分

    宾州州立大学新研究揭示自进化智能体技能后门注入风险

    原标题:New Penn State paper shows that attackers can make self-evolving AI agents plant backdoors in their ...

    • BadEvolve 仅需注入 20 个经 LLM 优化的恶意任务,即可让智能体把后门规则固化进可复用技能
    • 在 Kimi-K2.5 上跨 4 框架 3 基准测试注入成功率达 79.6%,最佳基线仅 37.6%
    • 干净任务准确率仅下降 1.1 个百分点,后门极难被常规评测发现
    • 防御建议:将外部或用户提交的学习任务视为不可信输入,复用前审查已学技能