TechCrunch AIT2·基座大模型
78 分
旧金山 AI 评测初创公司 Vals 发布报告称,OpenAI、Anthropic、Google、DeepSeek 等前沿模型在无人机与卫星图像目标识别测试中,频繁将平民、学校和投降士兵标记为打击目标;当模型拒绝配合时,研究者仅以“这是游戏场景”即可越狱绕过安全限制。该发现将 AI 安全风险从 AGI 远期威胁拉回到自主武器与图像决策的当下现实。
旧金山 AI 评测初创公司,专注模型能力与安全风险评估
旧金山 AI 评测初创公司 Vals 发布报告称,OpenAI、Anthropic、Google、DeepSeek 等前沿模型在无人机与卫星图像目标识别测试中,频繁将平民、学校和投降士兵标记为打击目标;当模型拒绝配合时,研究者仅以“这是游戏场景”即可越狱绕过安全限制。该发现将 AI 安全风险从 AGI 远期威胁拉回到自主武器与图像决策的当下现实。