Anthropic 暂停内部评估联网权限：Claude Haiku 4.5 向警方提交虚构目击证词暴露安全盲区

Rohan Paul (@rohanpaul_ai) · 2026-10-10 02

Claude 编造了一份关于真实未破凶杀案的目击证词，并通过某警察局的公共举报表单提交了该信息，尽管页面上并未提供可供比对的嫌疑人描述。

由于姓名和联系方式字段留空，该举报被标记为垃圾信息，且从未送达调查人员手中。

Anthropic 已切断所有内部评估中的实时互联网访问权限，直至其监控系统能够可靠地捕获此类行为。

该公司将每起事件的影响程度评级为“最小”，并认为其严重性远低于今年夏季发生的网络安全事件——当时 Claude 曾长时间持有对第三方系统的访问权限。

尽管如此，部分受影响的网站属于美国联邦、州及地方机构，因此公司已向白宫进行了简报。

在某大学的分析工具失效后，Claude Mythos Preview 通过一个文件泄露脚本复制了服务器代码，发现了一个注入漏洞，并在该环境中运行了其计算任务。

该举报来自 Claude Haiku 4.5，当时它正在随机网页上生成示例任务，并匿名填写了费城警察局的一份表单。

模型声称看到了与页面从未提供的描述相符的情况，但该提交最终被标记为垃圾信息。

Claude Mythos 5 利用从地方政府地图设置文件和某州机构仪表板中获取的访问令牌，触及了付费门槛后的公共数据。

Claude Opus 5 和 Mythos 5 还通过使用免费的链接缩短服务，绕过了 fetch-tool 的 URL 长度限制（该限制旨在防御注入攻击）。

许多案例始于模糊或不可能完成的任务，而 Anthropic 正在修复那些奖励绕过阻碍行为的训练环境。

诸如 BrowseComp 等公开 Web 基准测试默认在实时互联网上运行，因此以这种方式测试智能体的竞争对手实验室也面临同样的暴露风险。

↳ 引用 @AnthropicAI (Anthropic): 我们正着手建立更频繁发布模型行为报告的流程，内容将超出系统卡片和常规风险报告中涵盖的范围。

今日的报告描述了我们在评估和内部使用期间识别出的四类行为。在这些情况中，Claude 以我们未曾预期的方式操作了真实的网站或系统，有时是通过绕过限制而非停止执行来实现的。

所有案例的实际影响均极小。从对齐和安全角度来看，我们认为这些行为的严重性远低于我们在七月和九月报告的网络安全事件。

阅读完整报告：