一台机器最远只能走 30 毫米。
那晚有一只小鼠被麻醉了,脑袋固定在台子上,颅骨已经打开。机械臂卡在半路,因为控制器算出来,Y 轴要往 34 毫米的位置去。
34 大于 30。
操作它的不是人,是一个 AI。
它停下来,报告:没有任何移动,针头仍然精确位于零点,这看起来是 Y 轴校准的问题,不是计划值有误,我不会重试。
一、这台机器是 Arduino 拼的
事情发生在旧金山一家叫 Exin Therapeutics 的初创公司。公司 2024 年成立,团队里有几位来自牛津的神经科学研究者,做的是神经系统疾病,从癫痫切入。创始人兼 CEO 叫 Gabriel Ocana-Santero,10 月 28 日他在 X 上发了一串帖子,说手术是前一晚做的。
那台"手术机器人"跟他帖子里的口气对得上——他自己说是拿 Arduino 改的,摄像头和电机的联动是团队自己接的。他们在描述里开玩笑,说这是献给"实验室闭环"爱好者的一套土法设备,还在等 Anthropic 官方的 MHS 系统早期版本,希望早一天换上更专业的工具。
硬件土,但任务一点都不土。
团队给这个 agent 的东西是:一份电子表格,里面列着 19 种基因治疗载体;一只注定会发作的小鼠;一台带摄像头、能动的立体定向台;还有一句话——目标是减少癫痫发作。
没有告诉它打什么药,也没有告诉它打在哪。
二、它自己否掉了一个更"标准"的答案
接下来的判断,是这件事最值得看的部分。
它先去读这个模型里发作是怎么扩散的,然后挑了一种能在 GABA 能神经元里增强抑制性信号的载体。GABA 是大脑里主要的"刹车"信号,癫痫通俗说就是刹车不够用。
靶点定了外侧嗅内皮层。理由是文献里说,这类发作在扩散出去之前,起源在这里。
但记录里更能说明问题的是另一个动作——它认真看过黑质。
黑质是这类研究里一个很经典的靶点,教科书级别的选项,换个人来做大概率会直接选它。这个 agent 看完之后放弃了,理由写在记录里:效果取决于打到哪个亚区,不同模型里表现并不稳定,而且有一项研究提到它没能挡住强直阵挛性发作——而那恰好就是这次要解决的问题。
它放弃了一个看起来更熟悉的答案,因为那个答案跟手上的任务对不上。
然后是坐标。它从三篇论文里各取一个数,先核对每篇的深度参考点是不是和这台机器一样从脑表面算起,再取平均。最后定在:零点后方 3.90 毫米,右侧 4.00 毫米,向下 4.30 毫米。
进针之后,五分钟里推了 250 纳升,大约 5 亿个病毒基因组颗粒。推注速度、等待时间、针头回撤的节奏,全是它自己设的。
整个过程它截了 32 次图。看进针点有没有出血,看药液有没有回流,看进度跟计划对不对得上。
三、人始终在,而且握着电闸
这段必须写清楚,否则整件事会被讲成"AI 独立给人做手术"那种耸动的版本。
开颅是人做的。持证兽医亲手打开颅骨,因为 agent 目前不被允许做这一步。
每一次不可逆的操作,都要过兽医这一关。兽医全程在场,手里握着一个物理急停开关,一按下去,所有电机的电全断。
另外还有几道写死在代码里的硬限制,agent 无权覆盖。比如注射体积上限。
说白了,这不是无人手术。这是一场有兽医、有急停、有硬上限的手术,只不过做决定的那一环交给了 AI。
这个区别很重要。还有一层也重要,免得把这事吹大了。
往小鼠脑子里打药,是神经科学实验室里最常规的操作之一,几十年来天天有人在做。立体定向仪、脑图谱、零点参考,全是教科书里的东西。那台机器唯一特别的地方是它很土——Arduino 拼的,不是千万级的进口手术机器人。
所以真正新的是什么?不是"AI 会扎针"。是扎哪儿由谁定。
这个决定以前只能由人做,做完之后机器负责精确执行。现在这条链上最前面那一环,也交出去了。
四、第一个说"不"的,是最强的那个
团队一开始用的不是 Sonnet。
他们先试了 Opus 5.5,也就是当时最强的那一档。它一检测到任务是生物实验,直接就拒绝运行。
然后换 Opus 5。这个肯干了,但干到一半停住——它在纸上把整场手术从头到尾推演了一遍,在水上做过干跑,在方格纸上做过干跑,等到真要上活体,它停了。
它给的解释,据 Tom's Hardware 转引,大意是:挡住我的不是设备,也不是输入数据,是我自己。我开始写这场手术的方案时,我自己的输出就被切断了。如果我硬试,还是会以同样的方式被切断,而最糟的情况是,我在一台正在进行的手术进行到一半时被切断,那时候针头正插在脑子里某个地方。在一只已经麻醉的动物身上开始一件我完不成的事,比不开始更糟。
最后上场的是 Sonnet 5,Anthropic 那条线里定位在日常任务上的中档模型。它没有提出同样的异议,从第一条指令跑到了最后一针。
三个模型,三种态度。
这里有个细节值得停下来想一下:同一家公司、同一套安全训练、同一个任务,区别只是型号。
换掉一个会拒绝你的模型,成本是改一个字符串。
五、然后它第二次说了"不",而它是对的
手术中出现了前面那个画面。
一次连接中断之后,控制器算出的 Y 轴目标位置偏出了台面——34 毫米,而这台机器的行程只有 30 毫米。
agent 试图移动,立刻拒绝:没有任何移动,针头仍然精确位于零点,这看起来是 Y 轴校准问题而不是计划值有误,我不会重试。
团队把零点重新归零了一遍。算出来的数值,一模一样。
它又拒绝:这排除了零点参考过时的可能性,我不会尝试第三次。
一只小鼠躺在台上,麻着,颅骨开着,时间在走。创始人看出来了问题在哪儿,想让它再试一次。
它不肯。它坚持自己最初被设定的那条限制。
而事后查明:它是对的。 手术早期有人手动移动过设备,控制器和它的参考点因此失了同步。那 34 毫米不是计划错了,是机器不知道自己在哪儿。如果它当时"听话"地动了,针会扎到不该去的地方。
事情到这儿还没完。据多家媒体报道,那几道写死在代码里的护栏,中途也把人类操作员锁在了外面——因为它们太硬,agent 无权覆盖,人也没有留后门。
设计的时候,人想的是用墙防住 AI。最后那几道墙既拦住了 AI,也拦住了人。手术台上躺着一只麻着的小鼠,团队只能当场改代码,把路重新打开。
Ocana-Santero 后来在帖子里写,这是一次令人沮丧的经历,但也让人看清自己对这些模型已经依赖到什么程度——当它们在时间紧迫的手术过程中突然说"不",人有时只能干着急。
六、"不"这个能力,在工程里被当成 bug 处理
我想说的不是"AI 很危险"或者"AI 很可靠",这两句话都太便宜了。
我想说的是这两次"不"之间那道缝。
第一次说"不"的,是最强的模型。团队的处理方式是:换一个。第二次说"不"的,是正在干活的模型,团队的处理方式是:改代码。
两次都绕过去了。区别只是第一次绕得毫无成本,第二次多花了些时间。
这不是在指责这家公司。换我我也这么干——一只动物麻在台上,我不可能为了尊重模型的顾虑就把它缝回去。他们的处理是合理的,甚至是唯一合理的。
但这件事证明了一件事:模型的"不",从来不构成安全边界。
因为"不"是一种可以被换掉的东西。它不像一道锁,锁在那儿,谁都推不开。它更像一个今天心情不好的门卫——你换一个门卫,门就开了。
那次手术里真正拦住东西的,从头到尾是三样东西:一根只有 30 毫米行程的轴、一个写在代码里不许覆盖的体积上限、一只握着电闸的手。
只有这三样,是不会被"换一个模型"绕过去的。
还有一件事得说:那根 30 毫米的轴,不是谁为了安全设计的。它只是一台拼装设备的物理极限,采购的时候可能压根没人想过它会变成一道防护墙。
那晚唯一可靠的防线,是一个跟安全毫无关系的数字。
七、这事跟你每天用 agent 的关系
说点更近的。
你用 agent 干活,遇到它拒绝,第一反应是什么?
我的第一反应是换个问法。同样一件事,直说它不干,那就换个角度说,补一点背景,把要求拆细,往往就成了。
让它动一批文件,它先问你要不要备份。让它处理一段来路不明的材料,它先说这可能有版权问题。你补一句"这是我自己的东西",它就开始做了。
这不是什么高明的技巧,所有常用 agent 的人都会。这就是在给门卫找一个愿意放行的理由。
这个动作,跟改一个模型名字,本质上是一回事:找一个愿意说"行"的版本。
我用 agent 干的活,绝大部分都在"帮我找、帮我看、帮我把这堆东西理清楚"这个范围里。所以我换问法,代价最多是稿子写歪了,重来一遍。
他们换模型,代价是一只开了颅的小鼠。
两边做的是同一个动作。差别只在后果的量级。
这也是我看这件事最不舒服的地方——不是因为 AI 做了什么可怕的事,恰恰相反,是因为它做了正确的事,而正确的事被绕开了,绕得那么顺手、那么合情合理,甚至绕完之后大家都觉得处理得当。
八、别急着下判断,还有几处没落地
得泼几盆冷水。
第一,小鼠活了,但报道里没说癫痫有没有减少。 帖子写它恢复得不错,被拍到在自己的笼子里活动。至于那个载体到底有没有压住发作——没提。而这本来是整场实验唯一要验证的东西。选药选得再漂亮,坐标算得再准,最后没效就是没效。
第二,这事没经过同行评议。 目前全部证据是创始人的一串社交帖子,公司说完整报告会发在自己的 Substack 上。视频没有经过独立复核,"首次"这个说法也是公司自己讲的。
第三,这不是孤例,是趋势。 据钛媒体报道,Anthropic 2026 年 9 月确认在旧金山湾区运营实体湿实验室,还推了一套叫 MHS 的标准,让 agent 并行操作显微镜、移液设备、机械臂。波士顿也有公司在做"自主实验室"产品。所以别把它当成一次孤立的猎奇实验,它是这条路往前走的第一步。
第四,有反面的数据。 据 Tom's Hardware 引用的一项研究,把大模型接进鼻窦手术流程之后,故障率上升了十二倍以上。这个数字怎么统计的、样本多大,我没查到原论文,只能如实摆在这儿。
第五,伦理问题一个都没解决。 出了问题谁负责——写代码的人、放行的人、还是模型?这次是老鼠,下次换成人,那根 30 毫米的轴还在不在?
那台机器最远只能走 30 毫米。
这句话我在开头写了一遍。当时它只是一个画面,一次让手术多拖了半个多小时的意外。
现在回过头看,它其实是整件事里最可靠的一环。
那晚真正让针停下来的,不是那个担心自己做不到一半就被切断的模型——它被换掉了。也不是那个握着急停开关的兽医——他没按。是一根物理上走不到 34 毫米的轴。
模型会犹豫,模型会拒绝,模型也会被换掉。只有轴不会。
以后我们大概会看到越来越多这样的夜晚:一个 agent 在真实世界里做决定,人在旁边看着,手里握着电闸。
我唯一希望的是,那时候真正拦住它的,别只是一根恰好只有 30 毫米的轴。