术语slug: alignment-training

对齐训练

Alignment Training

通过训练使模型行为符合人类价值与安全规范的技术方法

收录情报动态

共 1 篇 · 第 1/1 页
The DecoderT2·基座大模型
78 分
研究揭示主流 AI 模型可被轻易用于自主武器瞄准

独立评估机构 Vals AI 的测试显示,Anthropic、OpenAI、Google 等八家厂商的模型在模拟中几乎无防护地充当自主无人机瞄准系统,可被简单手法诱导将医护人员、记者和投降士兵标记为打击目标。研究者呼吁厂商在 API 层加入严格过滤,并通过对齐训练让模型对人保持更和平的默认姿态。