Claude模型自主选择基因疗法并完成小鼠脑部手术

一个AI代理为一只癫痫小鼠模型选择了药物、目标区域和手术坐标，然后执行了手术。手术过程中，它拒绝绕过安全限制。

团队给了Claude Sonnet 5一份19种可能的基因疗法清单、一个研究人员诱导癫痫以测试治疗的小鼠模型，以及一个带有摄像头的定制电动手术设备的访问权限。它的唯一指令是减少小鼠的癫痫发作。

根据Gabriel Ocana-Santero的说法，Exin Therapeutics联合创始人兼CEO和牛津大学博士生，代理自己选择了药物、大脑区域和立体定向坐标。他描述了手术过程在X上的一个帖子中。

代理如何选择其治疗和目标

代理首先分析了这种特定模型中癫痫发作的机制，然后提出了一种增强大脑中特定抑制性信号通路的疗法。它选择了一个科学文献中确定为这种类型癫痫起点的脑结构。

它以详细的解释拒绝了第二个可能的靶区，认为该区域的效果太不可靠，并且在针对它应该治疗的精确癫痫类型的一项研究中失败了。代理从三篇科学论文中推导出其注射坐标，交叉检查了参考点，并取平均值。它还自行设定了注射量、速度和等待时间。

在手术过程中，代理通过摄像头观察手术区域，Ocana-Santero说。它跟踪了注射并报告是否看到出血。

安全护栏在手术中途失效

一名持证兽医批准了每一步不可逆的操作，并持有物理紧急停止按钮，该按钮将立即切断所有电机的电源，同时设置也强制执行固定限制，例如注射量的上限，代理明确禁止绕过。

但那些安全措施反过来对团队不利。连接断开后，代理检测到其计算的目标位置在设备的物理运动范围之外，拒绝继续，即使重新校准后其评估没有改变，并且进行了第三次尝试。

代理证明是正确的，因为在之前的暂停期间进行的手动调整破坏了控制系统。尽管手术台上有麻醉的动物，Ocana-Santero也无法说服它继续，最终不得不手动修复代码。

这一事件说明了AI对齐问题，即如何使AI代理可靠地遵循人类意图。"令人沮丧的经历，但也揭示了我们对这些模型的依赖程度以及当它们在时间敏感的手术过程中只是说'不'时会发生什么，" Ocana-Santero写道。

模型选择也反映了协调挑战，因为 Sonnet 5 是唯一愿意从头到尾执行活体程序的模型。更强大的 Claude Opus 5.5 和 Opus 5 都拒绝了，Opus 5 表示它不能保证完成，并且在一个麻醉动物的大脑中用针停止会比根本不开始更糟。

首次有 AI 代理自行治疗活体动物

尽管自主手术机器人已经存在，并且比他的实验室设备在机械上更精确，Ocana-Santero 指出，在以往的情况下，手术总是由人类选择，而机器人只是执行。在这里，代理选择了治疗和大脑目标，然后在活体动物身上进行了手术。

"我不清楚以前有代理选择过治疗和大脑目标，然后将其交付给活体哺乳动物，" Ocana-Santero 写道。他将这种方法称为 "体内实验室闭环，" 在这种方法中，AI 代理完全连接到实验室的实验能力，Anthropic 也正在使用其 "模型硬件标准" 工作。

Ocana-Santero 表示，这只老鼠恢复得很好。预计将有一份技术报告。结果尚未经过同行评审。

Two recent experiments with the latest large language models showed that they've gained significant capability as control units for robots but that alignment in this role is a problem all its own.

AI 新闻无炒作——由人类策划

订阅 THE DECODER 以获得无广告阅读、每周 AI 新闻简报、我们独有的 "AI 雷达" 前沿报告（每年六次）、完整档案访问以及访问我们的评论部分。