《超级智能》作者 Nick Bostrom 提出一个简化模型:若超级智能能治愈衰老,现存人口平均余寿可从约 40 年延长至约 1400 年;只要 AI 导致灭绝的风险低于 97%,立即启动超级智能就能提升当代人的预期寿命。他据此认为,延迟超级智能本身每年都会造成数百万因衰老而死的生命损失。
超级智能
Superintelligence
指在广泛认知任务上全面超越人类水平的假想 AI 系统,是安全治理争论的核心概念
收录情报动态
Anthropic 以每股 83 美元定价、发行 9.8 亿股 A 类普通股,公开市场募资约 813 亿美元,总估值达 1.5 万亿美元,成为有史以来规模最大的 IPO。路演阶段机构认购需求接近发行量的 7 倍,公司随之上调发行价与发行量。同一天,近 90 位学者与业界人士(含多位诺贝尔奖、图灵奖、菲尔兹奖得主)发布联名信公开反对此次上市。
前 Anthropic 研究员 Jacob Coxon 在斯坦福 HAI 访谈中透露,他看到的内部模型能力预测显示,未来 6 个月至 1 年内 AI 可能逼近递归自我改进的临界点,并认为本十年内或出现超级智能,而人类尚不清楚如何控制它。该言论属于个人转述的内部预测,缺乏可验证参数与具体方法。
马斯克在巴伦资本年度会议上预测,数字超级智能将满足人类一切需求,白领效率翻倍并推动全球经济年增长 20% 至 30%,人形机器人产出可达人类 5 倍。他同时提出全民高收入与免费医疗的设想,并回应了数据中心资源消耗争议。上述判断均为缺乏数据支撑的远景预测。
物理学家兼计算机科学家 Alex Wissner-Gross 在播客访谈中提出,AI 已进入“超级智能逃逸速度”阶段,即便立即停止所有新建数据中心,凭借现有算力与算法积累,通往超级智能的路径也不会中断。该说法为个人观点,未给出可验证的技术细节或数据支撑。
美国司法部指控一名任职于 OpenAI 的沙特籍工程师在旧金山办公室高管会议室安装隐蔽录音设备,旨在秘密录制涉及公司“超级智能”技术的敏感会议内容。该员工已被解雇并面临最高五年监禁,尽管目前无证据显示其窃取了模型权重或源代码,但此事件暴露了 AI 巨头内部安全管理的严峻挑战及地缘政治背景下的信任危机。
英伟达宣布将在未来五年内投入 10 亿美元,旨在推动美国在科学和量子计算领域的“超级智能”发展。该计划通过支持高等教育研究机构、加速量子计算领导力以及满足政府任务的云服务来实现,并作为“创世纪计划”第二阶段的一部分启动。
美国司法部发布内部备忘录,要求员工在对外沟通及法律文书中用“超级智能”(SI)取代“人工智能”。此举旨在落实特朗普此前签署的联邦机构统一用词行政命令。该事件属于政策执行层面的术语规范,不涉及技术突破或产品发布。
英国 AI 安全研究所(AISI)对齐团队与 Timaeus 研究人员联合成立非营利组织 Sequent,旨在开发针对超级智能的安全对齐技术。该机构指出当前实证对齐方法难以在 ASI 训练前提供充分信心,强调需建立独立第三方机制以预警前沿实验室潜在风险。
一家未具名的 AI 实验室发布了关于确保通用人工智能(AGI)惠及全人类的原则声明。该声明强调去中心化权力分配,主张将真正的通用 AI 能力赋予尽可能多的人,而非由少数公司垄断超级智能。文中提及“民主化”等核心原则,但具体执行细节在提供的文本中被截断。