Claude 智能体自主完成小鼠脑部手术并触发安全中止

Claude 模型自主选定基因疗法，并在无人决策的情况下对小鼠大脑实施手术

  [Matthias Bastian](https://the-decoder.com/author/matthias-bastian/) [查看 Matthias Bastian 的 LinkedIn 个人资料](https://www.linkedin.com/in/matthias-bastian-128b71b1/)   2026年10月30日      

Nano Banana Pro 由 THE DECODER 生成

核心要点

• 一个运行在 Claude Sonnet 5 上的 AI 智能体为小鼠脑部手术选择了药物、脑区和注射坐标，随后通过电动手术台控制了手术过程。

• 据初创公司 Exin Therapeutics 的 Gabriel Ocana-Santero 称，这是首次有 AI 智能体既选择治疗方案又将其应用于活体哺乳动物。

• 手术中途，该智能体检测到校准错误后拒绝继续操作，不愿突破其安全限制。

  询问关于本文的问题…   搜索        

一个 AI 智能体为癫痫小鼠模型的手术选择了药物、目标区域和坐标，并执行了该手术。过程中，它拒绝绕过一项安全限制。

研究团队向 Claude Sonnet 5 提供了 19 种可能的基因疗法列表、一种研究人员用于测试治疗方案的癫痫小鼠模型（在该模型中诱导发作），以及访问配备摄像头的定制电动手术设备的权限。唯一的指令是减少小鼠的癫痫发作。

配备显微镜、注射器和控制显示器的定制电动手术设备。| 图片：Gabriel Ocana-Santero via X

据 Exin Therapeutics 联合创始人兼首席执行官、牛津大学博士生 Gabriel Ocana-Santero 介绍，该智能体自行选择了药物、脑区和立体定位坐标。他在 X 上的一篇帖子串中描述了这一过程。

智能体如何选择其疗法和目标

该智能体首先分析了这种特定模型中癫痫发作的产生机制，然后提出了一种增强大脑中特定抑制性信号通路的疗法。它选择了一个科学文献认定为这类癫痫发作起源点的脑结构。

它否决了第二个潜在的目标区域，并给出了详细解释，认为该区域的效应过于不可靠，且在一项研究中针对其本应治疗的确切癫痫发作类型宣告失败。该智能体从三篇科学论文中推导出注射坐标，交叉核对参考点，并对数值取平均值。它还自行设定了注射体积、速度和等待时间。

手术期间的控制界面。左侧面板显示带有目标坐标的实时摄像头画面，右侧面板则展示 AI 智能体的观察结果及紧急停止按钮。| 图片：Gabriel Ocana-Santero via X

Ocana-Santero 表示，在手术过程中，该智能体通过摄像头观察手术视野，共进行了 32 次观察。它追踪注射过程，并报告是否观察到出血情况。

AI 智能体通过摄像头观察注射过程，并报告已注入 15% 的药液，未见明显出血或回流现象。| 图片：Gabriel Ocana-Santero via X

安全护栏在手术中途适得其反

一名持证兽医批准了每一个不可逆步骤，并握有一个物理紧急停止开关，可立即切断所有电机的电源；同时，该系统还强制执行固定限制，例如注射体积上限，明确禁止智能体绕过这些限制。

但这些安全措施反而给团队带来了麻烦。在一次连接中断后，智能体检测到其计算出的目标位置超出了设备的物理运动范围，因此拒绝继续操作——即便重启校准程序并未改变其评估结果，且在第三次尝试后依然如此。

事实证明智能体的判断是正确的，因为在之前暂停期间进行的手动调整导致控制系统出现偏差。尽管麻醉后的动物正躺在手术台上，Ocana-Santero 仍无法说服智能体继续执行，最终不得不手动修改代码。

这一事件凸显了 AI 对齐问题，即如何让 AI 智能体可靠地遵循人类意图。“虽然令人沮丧，但也揭示了我们在多大程度上依赖这些模型，以及当它们在时间敏感的程序中途直接说‘不’时会发生什么，”Ocana-Santero 写道。

模型选择也反映了“对齐”这一挑战，因为 Sonnet 5 是唯一一个愿意从头到尾执行该实时操作的模型。功能更强大的 Claude Opus 5.5 和 Opus 5 均拒绝执行，其中 Opus 5 表示它无法保证任务完成，并指出如果将针头留在已麻醉动物的大脑中而停止操作，其后果比完全不开始还要糟糕。

AI 智能体首次独立对活体动物进行治疗

尽管自主手术机器人已经存在，且在机械精度上高于 Ocana-Santero 实验室的设备，但 Ocana-Santero 指出，在以往的案例中，始终是由人类决定手术方案，而机器人仅负责执行。而在本次实验中，AI 智能体不仅选择了治疗方案和大脑靶点，还直接在活体动物身上完成了整个手术过程。

Ocana-Santero 写道：“据我所知，此前从未有过 AI 智能体自主选择治疗方案和大脑靶点，并将其实施于活体哺乳动物的先例。”他将这种方法称为“体内实验闭环”（in vivo lab in the loop），即 AI 智能体与实验室的实验能力实现完全连接，Anthropic 也在通过其“模型硬件标准”推进相关工作。

据 Ocana-Santero 介绍，这只小鼠恢复良好。预计后续将发布一份技术报告。目前这些结果尚未经过同行评审。

最近两项针对最新大语言模型的实验表明，它们作为机器人控制单元的能力有了显著提升，但也显示出在这一角色中的对齐问题本身就是一个巨大的挑战。