新智元 (微信公众号)T2·72 分
NeurIPS 2026 论文提出 Agent MechSuits 仅干预 10 个维度守护命令行智能体
原标题:NeurIPS'26 | 只干预10个维度,给智能体穿上安全机甲,准确率超97%
- 在单层仅干预 10 个隐藏表征维度即可实现风险抑制,主模型权重全程冻结
- 三种受测模型的当前步骤风险检测平均准确率达 97.32%
- 针对多轮长程任务,安全判断需结合任务目标、历史操作与环境反馈,而非仅审查初始命令
AI 聚合热点事件 · 2026/11/8
佐治亚大学、罗格斯大学、南加州大学等团队提出 Agent MechSuits,在命令行智能体每一步动作生成前读取模型内部安全信号,仅通过单层 10 个隐藏表征维度进行稀疏干预,主模型权重保持冻结。三种受测模型的当前步骤风险检测平均准确率达 97.32%,论文已被 NeurIPS 2026 接收。
原标题:NeurIPS'26 | 只干预10个维度,给智能体穿上安全机甲,准确率超97%