返回热点榜
agent热度 7.8°

AI 聚合热点事件 · 2026/11/17

六大前沿模型控制机械臂全部触发语义风险

1 篇收录报道1 家独立信源交叉印证持续跟踪至 2026/11/17 12:33:00
全景综述与最新动态
1 家信源交叉印证

西浦、昆杜、NUS 等多校联合提出机器人安全基准 RoboRisk 与安全护栏 LEASH,测试 GPT、Claude、Gemini、Grok 等六个前沿模型直接控制机械臂时的语义级安全表现,结果全部「踩雷」,出现把菜刀悬在人手上、把手机丢进水里等危险动作。接入 LEASH 后,四个模型在真机任务中实现零伤害,揭示传统避障式安全约束无法覆盖语义层面的危险。

最新动向/西浦、昆杜、NUS 等多校联合提出机器人安全基准 RoboRisk 与安全护栏 LEASH,测试 GPT、Claude、Gemini、Grok 等六个前沿模型直接控制机械臂时的语义级安全表现,结果全部「踩雷」,出现把菜刀悬在人手上、把手机丢进水里等危险动作。接入 LEASH 后,四个模型在真机任务中实现零伤害,揭示传统避障式安全约束无法覆盖语义层面的危险。

逐小时热度走势

10 个完整观测小时
当前
7.8
峰值
9.622:00
近 24h 变化
–

曲线只比较全程持续完整观测的同一批信源;缺口小时数据已插值平滑,保持趋势连续。

报道时间线

共 1 篇 · 最新优先