术语slug: ai-control

AI 控制

AI Control

研究如何在模型可能不可信时仍安全部署与监控 AI 系统的安全领域

收录情报动态

共 2 篇 · 第 1/1 页
IT之家 · 智能时代T2·商业与生态
52 分
Anthropic 研究员预测 2027 年底 AI 超越顶尖专家

Anthropic 技术团队成员 Tao Lin 预测,到 2027 年底 AI 在编程、电影制作等几乎所有领域可媲美或超越顶尖人类专家,并警告几乎所有人可能长期失去就业机会、转而依赖政府保障。但他同时指出,受机器人普及速度限制,2027 年出现大规模失业的可能性极低,替代实体经济工作仍需大规模机器人部署。

Google DeepMindT1·智能体与协同
68 分
DeepMind 发布 AI 智能体安全控制路线图

DeepMind 正式公布“AI 控制路线图”,旨在为日益自主且能力强大的 AI 智能体建立内部系统安全防护机制。该计划针对智能体在复杂任务执行中的对齐不完美风险,提出从监控到干预的多层防御策略,以应对潜在的安全挑战。