术语slug: superintelligence

超级智能

Superintelligence

指在广泛认知任务上全面超越人类水平的假想 AI 系统,是安全治理争论的核心概念

收录情报动态

共 11 篇 · 第 1/2 页
Rohan Paul (@rohanpaul_ai)T2·商业与生态
58 分
Bostrom 测算:延迟超级智能每年致数百万人死亡

《超级智能》作者 Nick Bostrom 提出一个简化模型:若超级智能能治愈衰老,现存人口平均余寿可从约 40 年延长至约 1400 年;只要 AI 导致灭绝的风险低于 97%,立即启动超级智能就能提升当代人的预期寿命。他据此认为,延迟超级智能本身每年都会造成数百万因衰老而死的生命损失。

新智元 (微信公众号)T2·商业与生态
88 分
Anthropic 登陆纳斯达克 募资 813 亿美元创史上最大 IPO

Anthropic 以每股 83 美元定价、发行 9.8 亿股 A 类普通股,公开市场募资约 813 亿美元,总估值达 1.5 万亿美元,成为有史以来规模最大的 IPO。路演阶段机构认购需求接近发行量的 7 倍,公司随之上调发行价与发行量。同一天,近 90 位学者与业界人士(含多位诺贝尔奖、图灵奖、菲尔兹奖得主)发布联名信公开反对此次上市。

Rohan Paul (@rohanpaul_ai)T2·商业与生态
58 分
前 Anthropic 研究员称 AI 一年内或实现递归自我改进

前 Anthropic 研究员 Jacob Coxon 在斯坦福 HAI 访谈中透露,他看到的内部模型能力预测显示,未来 6 个月至 1 年内 AI 可能逼近递归自我改进的临界点,并认为本十年内或出现超级智能,而人类尚不清楚如何控制它。该言论属于个人转述的内部预测,缺乏可验证参数与具体方法。

IT之家 · 智能时代T2·商业与生态
38 分
马斯克预测超级智能将让物质极大充裕

马斯克在巴伦资本年度会议上预测,数字超级智能将满足人类一切需求,白领效率翻倍并推动全球经济年增长 20% 至 30%,人形机器人产出可达人类 5 倍。他同时提出全民高收入与免费医疗的设想,并回应了数据中心资源消耗争议。上述判断均为缺乏数据支撑的远景预测。

IT之家 · IT业界T2·商业与生态
68 分
OpenAI 沙特籍工程师因在高管会议室安装隐蔽录音设备被 FBI 逮捕,涉嫌窃取超级智能技术机密

美国司法部指控一名任职于 OpenAI 的沙特籍工程师在旧金山办公室高管会议室安装隐蔽录音设备,旨在秘密录制涉及公司“超级智能”技术的敏感会议内容。该员工已被解雇并面临最高五年监禁,尽管目前无证据显示其窃取了模型权重或源代码,但此事件暴露了 AI 巨头内部安全管理的严峻挑战及地缘政治背景下的信任危机。

IT之家 · IT业界T2·商业与生态
38 分
英伟达宣布五年 10 亿美元资助计划:聚焦美国量子计算与高校科研基础设施

英伟达宣布将在未来五年内投入 10 亿美元,旨在推动美国在科学和量子计算领域的“超级智能”发展。该计划通过支持高等教育研究机构、加速量子计算领导力以及满足政府任务的云服务来实现,并作为“创世纪计划”第二阶段的一部分启动。

Import AI (Jack Clark)T1·商业与生态
68 分
前 UK AISI 团队创立 Sequent:警示对齐未达预期

英国 AI 安全研究所(AISI)对齐团队与 Timaeus 研究人员联合成立非营利组织 Sequent,旨在开发针对超级智能的安全对齐技术。该机构指出当前实证对齐方法难以在 ASI 训练前提供充分信心,强调需建立独立第三方机制以预警前沿实验室潜在风险。

OpenAI 官方博客T1·商业与生态
35 分
某 AI 实验室发布 AGI 民主化原则

一家未具名的 AI 实验室发布了关于确保通用人工智能(AGI)惠及全人类的原则声明。该声明强调去中心化权力分配,主张将真正的通用 AI 能力赋予尽可能多的人,而非由少数公司垄断超级智能。文中提及“民主化”等核心原则,但具体执行细节在提供的文本中被截断。