Anthropic CEO Dario Amodei 在 CNBC 采访中表示,公司刻意将研发节奏控制在自身能力的不到一半,把余下资源投入安全研究与“以正确方式构建模型”。他用“能开 200 英里却只开 90 英里”作比,强调减速是为了留出时间解决安全问题。这是对 Anthropic 一贯“安全优先”路线的公开重申,但未披露具体技术细节或量化指标。
AI 安全
AI Safety
研究确保 AI 系统可靠、可控且符合人类意图的技术与治理领域
收录情报动态
Anthropic 完成重磅 IPO,其公共福利基金获得约 8.5 亿股、按当前股价计约 800 亿美元捐赠基金,若估值持续增长还将追加 2% 股份。叠加员工捐赠承诺等渠道,本次上市预计可为慈善事业带来约 1560 亿美元,重点投向 AI 对劳动者影响研究与 AI 安全研究。
Anthropic 完成史上最大规模 IPO,募资 813 亿美元,超越 SpaceX 成为最高估值新股,完全稀释市值约 1.5 万亿美元。文章指出,这家以安全优先立身的实验室正面临使命与资本压力的正面冲突:其特殊治理结构使管理层几乎不受股东约束,而上市后对盈利与速度的诉求可能侵蚀其“好人”声誉。
曾投票罢免 Sam Altman 的 OpenAI 前董事 Helen Toner 在 The Verge 播客中表示,AI 公司 CEO 仍不值得信任,非营利董事会的问责机制在关键时刻失效。她现为乔治城大学 CSET 执行主任,长期从事 AI 安全与政策研究。
OpenAI 正式确认维持对 Jasmine Wang 等三名 AI 安全研究员的解雇决定,强调此举源于其违反敏感信息处理政策的“严重失信行为”,而非针对其公开表达的安全担忧。公司通过官方声明回应了此前引发争议的内部信与公开信事件,试图将焦点从“压制异见”转向“合规违规”。这一强硬立场凸显了头部实验室在内部治理、保密协议与外部透明度之间的剧烈张力。
知名网络安全开源仓库 h4cker(2.9万星)持续更新,新增专门板块涵盖 AI 安全与 LLM 工程。该库由 Omar Santos 维护,提供从攻防基础到云原生安全的综合参考、脚本及实验室资源,是安全从业者获取结构化知识的重要索引。
Simon Willison 在 WeAreDevelopers 大会发表关于 2026 年大语言模型(LLM)发展的闭幕演讲,并公开了带注释的幻灯片与笔记。内容以时间线形式梳理了过去一年从 2025 年 11 月至今的关键技术趋势、安全事件及开源动态。
OpenAI 推出《澳大利亚青少年安全蓝图》,旨在通过六大支柱框架保护并赋能年轻用户。该计划聚焦于构建更安全的 AI 交互体验,目前仅公布宏观路线图,未披露具体技术实现或执行细节。
Google DeepMind 联合 Schmidt Sciences、Cooperative AI Foundation 及 ARIA 宣布启动总额高达 1000 万美元的全球技术研究资助计划。该计划旨在解决未来数百万个由不同组织构建的 AI 智能体在数字环境中交互、通信和协商时面临的安全挑战,申请截止日期为 2026 年 8 月 8 日。
OpenAI 宣布 ChatGPT 引入新的安全更新,旨在提升模型在敏感对话中的上下文感知能力。该功能通过长期追踪风险信号来优化响应安全性,但具体技术实现细节与量化指标未在文中披露。