新智元 (微信公众号)T2·智能体与协同
72 分
佐治亚大学、罗格斯大学、南加州大学等团队提出 Agent MechSuits,在命令行智能体每一步动作生成前读取模型内部安全信号,仅通过单层 10 个隐藏表征维度进行稀疏干预,主模型权重保持冻结。三种受测模型的当前步骤风险检测平均准确率达 97.32%,论文已被 NeurIPS 2026 接收。
Representation Intervention
在模型前向传播过程中直接修改隐藏层激活值以引导输出行为的技术,无需更新模型权重
佐治亚大学、罗格斯大学、南加州大学等团队提出 Agent MechSuits,在命令行智能体每一步动作生成前读取模型内部安全信号,仅通过单层 10 个隐藏表征维度进行稀疏干预,主模型权重保持冻结。三种受测模型的当前步骤风险检测平均准确率达 97.32%,论文已被 NeurIPS 2026 接收。