Anthropic Urges California Governor to Grant Courts Power to Block High-Risk AI Models
Anthropic has written to California Governor Gavin Newsom, recommending that the government be empowered to seek court injunctions to block the release of 'severe risk' AI models. The company argues against relying on global 'kill switches,' advocating instead for targeted measures such as suspending specific customer access or shutting down problematic agents. This stance aligns with its previous regulatory proposals and comes amid Anthropic's IPO preparations and ongoing legislative discussions in the U.S. Congress.
Full Report
IT之家 10 月 29 日消息，据路透社今天（29 日）凌晨报道，Anthropic 在本月 15 日致美国加州州长加文 · 纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。
这与 Anthropic 此前提出的监管建议一致。
Anthropic 自身也曾受到政府限制。今年 6 月，美国政府以国家安全为由，要求 Anthropic 立即限制外国用户访问具备网络安全能力的 Mythos 5 和 Fable 5 模型。然而随后，美国商务部又宣布撤销该命令。
今年 9 月，纽森召集 AI 专家小组，研究制定 AI 安全要求的建议，Anthropic 随后提交了上述意见。OpenAI 也于 10 月 20 日向纽森提出了一系列建议。
Anthropic 还在信中指出，如果 AI 模型的行为失去控制，要求开发者设置能够关闭整个模型的“紧急关闭开关”，反而可能让政府官员产生“虚假的安全感”。
相比之下，Anthropic 更倾向于关闭出现问题的 AI 智能体、暂停特定客户的模型使用权限等采取针对性措施，认为这些办法更有效。
今年 9 月，美国两党参议员曾讨论过一项法案，计划授权政府禁止发布部分被认定存在安全隐患的 AI 模型，同时允许企业向联邦法院提出异议。不久后，国会进入选举前休会期，议员没有继续推进该提案。
美国众议院议员还在 7 月提出《AI 紧急关闭法案》，计划赋予政府官员下令关闭 AI 模型的权力，适用对象为危及人类生命或经济的模型。
据IT之家了解，Anthropic 正筹备赴美上市。如果成功上市，有望成为近年来最具影响力的 IPO 之一，并可能改变基准指数的构成、投资者资金流向以及美股市场的整体投资叙事。