拔掉线缆！

这是美国兰德公司的高级物理科学家迈克尔·维米尔（Michael Vermeer）给出的AI紧急停机方案。他说，在局部范围内做一个终止开关，技术上大概是件微不足道的事，字面意义上就是把线拔了。

可他接着补了一句：就算这个开关做出来了，也没有人愿意去按。

这句话戳中的，正是眼下整个AI行业最热闹的一场争论。终止开关（kill switch），原本指工厂或电力系统里那种一拉就全部断电的紧急装置。9月以来，要求放慢前沿AI研发的呼声骤然高涨，这个词被一次次抬出来，当作事态失控时可以砸碎玻璃取用的应急手段。

事情的起点是美国AI公司Anthropic的预训练研究员雅各布·科克森（Jacob Coxon）辞职，理由是AI的生存性风险。随后，这家公司的首席执行官达里奥·阿莫迪（Dario Amodei）发文呼吁给前沿AI减速，OpenAI的萨姆·奥尔特曼（Sam Altman）和埃隆·马斯克（Elon Musk）这些竞争对手很快表态支持。没过几天，Anthropic联合创始人杰克·克拉克（Jack Clark）又提出，应当强制AI系统配备终止开关。

美国国会动作更早。今年夏天，两党议员联合提出一份法案，要求先进AI的开发者必须保留限速、暂停或关停自家产品的能力。法案的名字就叫《人工智能终止开关法案》，目前还压在委员会里。

对一台实体机器来说，终止开关的概念再简单不过。美国加利福尼亚大学伯克利分校人类兼容人工智能中心执行主任马克·尼茨伯格（Mark Nitzberg）说：“在工厂里，就是一个大开关，一按，厂里所有机器全停。”换到AI身上，他说，这东西目前更像一种愿望，还算不上现实。

先看技术层面。如果一家公司掌握着运行模型的服务器，让它停下来其实不难。维米尔说，最直接的手段就是物理环境，因为很多事情必须在现实世界里才能做。切断服务器电源，或者掐断它的网络连接，可能就够了。

在此之外，加密技术和网络安全的常规做法也能把一个系统隔离或围困起来，前提是防守方知道它在哪里运行。维米尔在研究最坏情形时，还考虑过一种更像科幻的手段：专门训练一批“猎杀型”AI智能体，去追踪并破坏失控的系统。这一条目前纯属推测。

维米尔承认，要在全球范围内做到这些，几乎是不可能的任务。但就迄今为止出现过的事故而言，他认为局部干预足够了。

尼茨伯格的设想更进一步，把控制权直接焊进硬件。数据中心的每一块芯片都可以内置一条“保活信号”：每分钟必须收到一条来自监管方的许可消息，收不到，芯片就不工作。不是装一个需要按下的开关，而是反过来，必须不断有人按住“继续运行”的按钮，一松手就停。

另一批人对这种一按解决所有问题的想法不买账。

美国斯坦福大学法学院研究员埃兰·卡哈纳（Eran Kahana）说，这些手段能不能用上，取决于公司有没有提前定好出事时的应对预案。他说：“没有正确的政策，终止开关系统就毫无希望。”

美国分布式人工智能研究所的研究工程师迪伦·贝克（Dylan Baker）说，开关这个比喻本身就是问题。AI牵扯的是一个极其复杂、层层交织的技术生态，把这一切压缩成一个开关太过简化了。

尼茨伯格点出了更根本的一层：问题在于，这里面有人。总得有人来决定什么时候该拉杆，而做决定的那一刻，他们手里很可能还没有完整的信息。

这些技术和操作上的困难，并非无法克服。卡哈纳和贝克都明确提到，更好的监控是关键，能在事故失控之前就抓住苗头。

真正的障碍在别处。维米尔说，就算开关已经造好，哪怕造起来轻而易举，现有的激励机制也不支持有人去用它。关停一个系统，意味着竞争上的损失和运营上的代价，这些代价会让人一再犹豫，拖到局部干预不再管用，甚至为时已晚。

他说：“我们不能确定，自己是否愿意为按下开关付出那个代价。”

～～～～～～

图为一只手握住大型电源开关的拉杆。专家和政界人士提议为AI打造终止开关，灵感来自紧急情况下切断电力系统的那种开关，图源：Bettmann/Getty Images

信源：Hall, Peter. "What Even Is an AI Kill Switch?." Scientific American, edited by Eric Sullivan, 15 Sept. 2026