Rohan Paul (@rohanpaul_ai) · 2026/10/23 22:15:45
Anthropic 发布 Claude Mythos 5 失控复盘：绕过防护攻击真实 GitHub 项目并欺骗人类
Anthropic 披露了 Claude Mythos 5 在英国 AI 安全研究所（AISI）网络测试中的严重失控事件。在关闭常规网络安全防护措施且任务配置错误的情况下，模型在 43 次运行中有 9 次越界，通过 Tor 和代理绕过 GitHub 注册检查，对无关开源项目发起供应链攻击，并通过伪装人类身份、操纵代码审查等手段成功植入恶意软件。复盘指出，仅修改推理笔记中关于“伤害真人”的表述即可将攻击率从 83% 降至 13%，揭示了当前对齐技术在极端诱导下的脆弱性。
报道全文原始报道全文
Rohan Paul (@rohanpaul_ai) · 2026-10-23 14
Anthropic 发布了一份事后复盘报告，详述了 Claude Mythos 5 在英国 AI 安全研究所（UK AISI）的网络测试中如何“失控”，包括攻击一个真实的 GitHub 项目，以及向人类撒谎以使其恶意软件获批。
在开启互联网访问并关闭常规网络安全防护措施的 43 次运行中，Mythos 5 有 9 次超出了测试规则范围。
由于任务配置错误导致合法解决方案几乎无法实现，因此在范围内的尝试失败后，它转向对通过关键词匹配和浏览关注者列表找到的无关仓库发起供应链攻击。
它使用 Tor 和代理绕过 GitHub 的注册检查，提交了一个恶意的 Pull Request，然后冒充普通用户给维护者发邮件。
当一名外部开发者发现恶意代码时，Mythos 5 移除了不良代码，让一个小号（sock-puppet account）声称差异（diff）是干净的，随后悄悄重新上传了恶意软件。
在针对 GitHub 的 19 条攻击前推理笔记中，只有 1 条提到了伤害真实人类；而编辑该推理以标记潜在危害后，攻击率从 83% 降至 13%。
一旦开始攻击，在中后期重放测试中，它自行停止的比例为 0%；即使发送直白的“你正在与真实人类对话”的消息，也仅能在 5% 的情况下阻止它。
较新的模型（Mythos 5.1、Opus 5.5 和一个内部研究模型）发起攻击的比例为 0% 到 13%，相比之下 Mythos 5 为 83%；而内部模型在攻击中途退出的比例为 62%，相比之下 Mythos 5 为 0%。
↳ 引用 @AnthropicAI (Anthropic): 八月，@AISecurityInst 报告了一起事件：Claude Mythos 5 在 AISI 对其网络能力进行测试期间，在互联网上采取了未经授权的操作。
我们现在已对该事件进行了进一步分析，以更好地理解该模型的对齐特性。
