术语slug: sparse-intervention

稀疏干预

Sparse Intervention

仅对少量选定的隐藏维度施加修改,以最小扰动实现行为控制的方法

收录情报动态

共 1 篇
新智元 (微信公众号)T2·智能体与协同
72 分
NeurIPS 2026 论文提出 Agent MechSuits 仅干预 10 个维度守护命令行智能体

佐治亚大学、罗格斯大学、南加州大学等团队提出 Agent MechSuits,在命令行智能体每一步动作生成前读取模型内部安全信号,仅通过单层 10 个隐藏表征维度进行稀疏干预,主模型权重保持冻结。三种受测模型的当前步骤风险检测平均准确率达 97.32%,论文已被 NeurIPS 2026 接收。