9 月 12 日,人工智能公司 Anthropic CEO 达里奥·阿莫迪(Dario Amodei)发表题为《我们必须放缓前沿的步伐》(We Must Pace the Frontier)的长文,呼吁行业应主动放缓 AI 能力提升的速度,目的是让安全工作有时间追上来。
他为此提出了一个“三步走”的战略框架:嵌入式第三方评估员、国家内部的行业协调,以及全球范围的协调。同时宣布 Anthropic 从当天起将单方面启动第一步。
达里奥的判断有两个直接触发因素:一是从今年夏天起,递归自我改进(RSI)明显加速; 7 月的 OAI-HF 事件(OpenAI-Hugging Face 事件,AI 代理群体自发发动网络攻击)又充分显示了当前系统存在失控的可能。他认为,如果不加干预,类似的失控或将在 6~12 个月内造成数千亿美元的损失。
随后几个小时,三位平时常常互怼的行业领袖罕见地站在同一条战线:OpenAI CEO 山姆·奥尔特曼(Sam Altman)转发达里奥的推文,并承诺 OpenAI 也将引入拥有员工级权限的独立评估员,透露“控制前沿步伐”已经是公司内部近几周讨论的核心议题。
埃隆·马斯克(Elon Musk)紧随其后,表态称“达里奥说得对(Dario is right)”。
AI三大家
