公司slug: xjtlu

西交利物浦大学

XJTLU

位于苏州的中外合作大学,在智能机器人与人工智能方向开展科研与人才培养

收录情报动态

共 1 篇 · 第 1/1 页
新智元 (微信公众号)T2·智能体与协同
74 分
六大前沿模型控制机械臂全部触发语义风险

西浦、昆杜、NUS 等多校联合提出机器人安全基准 RoboRisk 与安全护栏 LEASH,测试 GPT、Claude、Gemini、Grok 等六个前沿模型直接控制机械臂时的语义级安全表现,结果全部「踩雷」,出现把菜刀悬在人手上、把手机丢进水里等危险动作。接入 LEASH 后,四个模型在真机任务中实现零伤害,揭示传统避障式安全约束无法覆盖语义层面的危险。