宝玉 (@dotey)T2·商业与生态
58 分
纽约时报在 Anthropic 上市前发布 Dario Amodei 长篇人物稿,通过二十余位受访者的回忆,勾勒出他早年在理性主义与有效利他主义社群中的思想形成过程。受访者认为,这套信念既驱动他抢先造出 AI 以防落入他人之手,也让他倾向于把这项技术掌控在自己手中;Dario 本人拒绝受访,并公开与这两个圈子保持距离。
Existential Risk
指可能导致人类文明终结或永久丧失发展潜力的极端风险
纽约时报在 Anthropic 上市前发布 Dario Amodei 长篇人物稿,通过二十余位受访者的回忆,勾勒出他早年在理性主义与有效利他主义社群中的思想形成过程。受访者认为,这套信念既驱动他抢先造出 AI 以防落入他人之手,也让他倾向于把这项技术掌控在自己手中;Dario 本人拒绝受访,并公开与这两个圈子保持距离。
前 Anthropic 与 OpenAI 研究员雅各布·考克森在纽约市议会听证会上作证,指出顶尖实验室正致力于实现 AI 研究的完全自动化,且相关阶段性目标设定在 2027 至 2028 年。他基于内部研发进度透露,人类失去对 AI 控制权的概率超过 50%,并批评当前行业“先发布后修复”的初创思维不适用于前沿安全领域。
AI 研究者 Emily Bender 在 Bloomberg Tech 访谈中公开反驳“AI 存在性风险”叙事,认为该概念缺乏实证基础且被过度炒作。她指出当前大模型本质是统计模式匹配,不具备自主意图或意识,因此不会构成人类灭绝级别的威胁。
OpenAI 三位核心高管联合发文,提出针对未来“超级智能”的治理构想,认为其能力将远超当前 AGI。文章主张鉴于潜在的存在性风险,不能采取被动反应策略,而需建立类似核能监管的事前控制机制及全球协调体系。