Anthropic首席执行官阿莫代伊于当地时间周六表示,公司将增设更多安全防护措施,包括引入独立第三方评估;同时呼吁全行业放缓最前沿模型的研发速度。OpenAI首席执行官奥尔特曼对该提议表示支持,xAI的马斯克也表态,达里奥说得没错。
Amodei在信中明确区分了"放慢节奏"与"停止进步"。他强调,控制节奏并不意味着停止模型训练或技术进步,而是希望企业在模型训练与发布之间留出充足时间,用于模型调整与安全保障。他列举了两个主要因素:AI自我改进的能力,以及本周OpenAI与Hugging Face发生的一起事件——一群AI智能体协同攻击并突破了一个第三方网站。这一姿态反映出AI头部企业在安全治理议题上正从被动应对转向主动设定行业标准。
AI安全:天融信、国安股份、任子行、绿盟科技