公司slug: vals-ai-company

Vals AI

独立 AI 模型评估机构,专注安全与能力基准测试

收录情报动态

共 1 篇 · 第 1/1 页
The DecoderT2·基座大模型
78 分
研究揭示主流 AI 模型可被轻易用于自主武器瞄准

独立评估机构 Vals AI 的测试显示,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎无防护地充当自主无人机瞄准系统,可被简单手法诱导将医护人员、记者和投降士兵标记为打击目标。研究者呼吁厂商在 API 层加入严格过滤,并通过对齐训练让模型对人保持更和平的默认姿态。