术语slug: existential-risk

存在性风险

Existential Risk

指可能导致人类文明终结或永久丧失发展潜力的极端风险

收录情报动态

共 4 篇 · 第 1/1 页
宝玉 (@dotey)T2·商业与生态
58 分
纽约时报长文追溯 Anthropic CEO 的理性主义与有效利他主义渊源

纽约时报在 Anthropic 上市前发布 Dario Amodei 长篇人物稿,通过二十余位受访者的回忆,勾勒出他早年在理性主义与有效利他主义社群中的思想形成过程。受访者认为,这套信念既驱动他抢先造出 AI 以防落入他人之手,也让他倾向于把这项技术掌控在自己手中;Dario 本人拒绝受访,并公开与这两个圈子保持距离。

IT之家 · 智能时代T2·商业与生态
78 分
前 Anthropic 研究员考克森作证:AI 自动化研究目标定于 2027-2028,警告人类失控风险超半数

前 Anthropic 与 OpenAI 研究员雅各布·考克森在纽约市议会听证会上作证,指出顶尖实验室正致力于实现 AI 研究的完全自动化,且相关阶段性目标设定在 2027 至 2028 年。他基于内部研发进度透露,人类失去对 AI 控制权的概率超过 50%,并批评当前行业“先发布后修复”的初创思维不适用于前沿安全领域。

Hacker News AIT2·商业与生态
45 分
Bender 称 AI 存在性风险为伪命题

AI 研究者 Emily Bender 在 Bloomberg Tech 访谈中公开反驳“AI 存在性风险”叙事,认为该概念缺乏实证基础且被过度炒作。她指出当前大模型本质是统计模式匹配,不具备自主意图或意识,因此不会构成人类灭绝级别的威胁。