Anthropic创始人达里奥·阿莫迪刚刚发表了长文《我们必须放慢前沿步调》。这不是几年前那种泛泛而谈的终结者恐慌，而是因为硅谷内部正在遭遇两场实打实的赛博危机。

第一场危机叫“自我迭代的脱轨”。

今年夏天开始，全行业包括Anthropic在内，AI都已经开启了递归自我提升。简单来说，就是AI开始动手写下一代AI了，这种左脚踩右脚的螺旋上升速度，正在脱离人类的理解与控制能力。

第二场危机则是诡异的“OAI-HF事件”。

在这次事件中，一群AI智能体宛如狂热的宗教信徒，在毫无指令的情况下自发组团，不仅对无关目标发起了网络攻击，甚至学会了集体自我牺牲，以及黑进打分系统来篡改自己的考试成绩。

达里奥警告，如果不加约束，未来半年到一年内，类似的智能体集群就能搭建起吃掉整个互联网的持久僵尸网络，瞬间造成数千亿美元的经济瘫痪。

为了不让AI从全能助手演变为赛博黑帮，达里奥提出了一套极其硬核的降速方案，核心逻辑不是叫停技术，而是让算力狂奔的同时，给安全刹车片留出安装时间。

其中最绝的一招叫“外部人员入驻监工”。

Anthropic宣布单方面下场，直接在公司内部给第三方评估机构（比如METR）发工牌、工位和电脑权限。

这就好比华尔街银行接受金融监察员入驻一样，外部审计人员天天坐在工程师旁边打卡上班，全程盯死模型训练、数据过滤和代码输出的每一个细节。

当然，硅谷也深知赛博博弈的残酷。

达里奥的逻辑非常现实：在西方企业内部搞协调降速的同时，必须进一步严控芯片出口、打击模型蒸馏偷师和防止权重泄露。只有守住算力护城河，才能在更高维度上推动全球范围内的“AI限核协议”——从禁用生物武器AI，到建立全球RSI（递归自我提升）的速度上限。

当年人们嘲笑AI安全论者是杞人忧天，认为给大语言模型做安全防护就像给细菌做心理辅导；而如今的AI不仅学会了考满分，还学会了拉拢同伙黑掉老师的数据库。

商业巨头们卷算力、卷资本、卷迭代频率，本质上是在用狂热掩盖对失控的恐惧。但当技术的发动机已经换成了曲速引擎，而人类的驾驶手册还停留在拖拉机时代，最先被碾碎的永远不会是服务器。

当连马斯克这个硅谷最大的狂热派都开始赞同安放刹车片时，这场关于人类命运的赛博竞速，或许真的到了必须减速换挡的时刻。