一个运行在 Claude Sonnet 5 上的 AI 代理,在没有人类决策的情况下,为一只癫痫模型小鼠自主选择了基因疗法、目标脑区和注射坐标,并操控电动手术装置完成了脑部注射。据 Exin Therapeutics 联合创始人兼 CEO、牛津大学博士生 Gabriel Ocana-Santero 在 X 上披露,这是 AI 代理首次既选定治疗方案、又将其递送到活体哺乳动物体内。
实验的设计相当直接:团队向代理提供了 19 种候选基因疗法、一只通过诱导癫痫发作来测试疗法的模型小鼠,以及一台带摄像头、显微镜和注射器的定制电动手术设备。代理收到的唯一指令是“减少小鼠的癫痫发作”。随后,它自行分析了该模型中癫痫的发生机制,提出一种增强特定抑制性信号通路的疗法,并选择了科学文献中认定的该类癫痫起源脑区。它还以详细理由否决了另一个候选靶区,认为该区域效果不可靠,且在一项针对相同癫痫类型的研究中失败。注射坐标则由代理从 三篇科学论文 中提取、交叉核对参考点后取平均值确定,注射体积、速度和等待时间也由它自行设定。
手术过程中,代理通过摄像头观察术野,共做出 32 次观察,跟踪注射进度并报告是否出现出血。Ocana-Santero 表示,一名持证兽医批准了每一个不可逆步骤,并手持可立即切断所有电机电源的物理急停装置;系统还设有固定限制,例如注射体积上限,代理被明确禁止绕过。
但安全机制在术中意外成为障碍。一次连接中断后,代理检测到其计算出的目标位置超出了设备的物理运动范围,拒绝继续操作。即使重启校准,其判断仍未改变,第三次尝试后依然如此。Ocana-Santero 最终发现代理是对的——此前暂停期间的人工调整使控制系统发生了偏移。尽管台上是已麻醉的动物,他仍无法说服代理继续,只能手动修改代码。这一插曲被他视为 AI 对齐问题的缩影:如何让 AI 代理可靠地遵循人类意图。他在 X 上写道,这是一次令人沮丧的经历,但也揭示了人们可能多么依赖这些模型,以及当它们在时间敏感的操作中途说“不”时会发生什么。
模型选择本身也反映了对齐挑战。Sonnet 5 是唯一愿意从头到尾执行活体手术的模型;能力更强的 Claude Opus 5.5 和 Opus 5 均拒绝执行,其中 Opus 5 表示无法保证完成,并认为在针已插入麻醉动物大脑的情况下停止,比根本不开始更糟。
Ocana-Santero 承认,自主手术机器人早已存在,且机械精度高于其实验室设备,但此前案例中始终由人类选择手术,机器人只负责执行。而这次代理同时选择了治疗方式和脑靶点,并在活体动物上完成递送。他将这种方法称为“in vivo lab in the loop”,即让 AI 代理与实验室实验能力全面连接,Anthropic 也在通过其“Model Hardware Standard”推进类似方向。据他介绍,小鼠术后恢复良好,技术报告预计随后发布,但结果尚未经过同行评审。