术语slug: ai-safety

AI 安全

AI Safety

研究确保 AI 系统可靠、可控且符合人类意图的技术与治理领域

收录情报动态

共 18 篇 · 第 1/2 页
Rohan Paul (@rohanpaul_ai)T2·商业与生态
58 分
Dario Amodei 称 Anthropic 主动将研发速度压至可承受的一半

Anthropic CEO Dario Amodei 在 CNBC 采访中表示,公司刻意将研发节奏控制在自身能力的不到一半,把余下资源投入安全研究与“以正确方式构建模型”。他用“能开 200 英里却只开 90 英里”作比,强调减速是为了留出时间解决安全问题。这是对 Anthropic 一贯“安全优先”路线的公开重申,但未披露具体技术细节或量化指标。

TechCrunch AIT2·商业与生态
78 分
Anthropic 上市或为慈善带来 1560 亿美元

Anthropic 完成重磅 IPO,其公共福利基金获得约 8.5 亿股、按当前股价计约 800 亿美元捐赠基金,若估值持续增长还将追加 2% 股份。叠加员工捐赠承诺等渠道,本次上市预计可为慈善事业带来约 1560 亿美元,重点投向 AI 对劳动者影响研究与 AI 安全研究。

The Verge AIT2·商业与生态
78 分
Anthropic 上市募资 813 亿美元 估值 1.5 万亿

Anthropic 完成史上最大规模 IPO,募资 813 亿美元,超越 SpaceX 成为最高估值新股,完全稀释市值约 1.5 万亿美元。文章指出,这家以安全优先立身的实验室正面临使命与资本压力的正面冲突:其特殊治理结构使管理层几乎不受股东约束,而上市后对盈利与速度的诉求可能侵蚀其“好人”声誉。

The Verge AIT2·商业与生态
68 分
OpenAI 坚持解雇三名安全研究员:定性为违反保密政策而非打压 AI 安全异议

OpenAI 正式确认维持对 Jasmine Wang 等三名 AI 安全研究员的解雇决定,强调此举源于其违反敏感信息处理政策的“严重失信行为”,而非针对其公开表达的安全担忧。公司通过官方声明回应了此前引发争议的内部信与公开信事件,试图将焦点从“压制异见”转向“合规违规”。这一强硬立场凸显了头部实验室在内部治理、保密协议与外部透明度之间的剧烈张力。

OpenAI 官方博客T1·商业与生态
38 分
OpenAI 发布澳洲青少年安全蓝图

OpenAI 推出《澳大利亚青少年安全蓝图》,旨在通过六大支柱框架保护并赋能年轻用户。该计划聚焦于构建更安全的 AI 交互体验,目前仅公布宏观路线图,未披露具体技术实现或执行细节。

Google DeepMindT1·智能体与协同
68 分
DeepMind 等联合发起千万美元多智能体安全研究资助

Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation 及 ARIA 宣布启动总额高达 1000 万美元的全球技术研究资助计划。该计划旨在解决未来数百万个由不同组织构建的 AI 智能体在数字环境中交互、通信和协商时面临的安全挑战,申请截止日期为 2026 年 8 月 8 日。