“AI可能造成10亿人死亡。”
比尔·盖茨在接受NBC《与新闻界对话》采访时，直接抛出了这个警告。他强调，AI落入恶意使用者手里后，可能推动造成大规模伤亡的事件，而且这种风险不能指望AI公司自己管自己。
真正棘手的地方也随之出现了。
现在，AI行业内部确实有人要求放慢前沿模型研发、加强安全措施；但企业之间如果联合限制研发速度，又可能涉及反垄断问题。于是，“AI安全”与“行业竞争”开始撞在了一起。
这就让监管变得很难简单处理。
什么级别的模型必须接受强制安全测试？发现严重风险后，企业要承担什么责任？哪些安全措施属于必要监管，哪些又可能变成大公司的竞争壁垒？
盖茨给出的答案很明确：不能只靠行业自律，政府、执法部门和政治人物必须参与，而且安全监测应该成为强制要求。
所以现在真正需要解决的，已经不只是“AI会不会失控”。
而是当AI能力增长速度远远超过监管经验时，谁来定规则、谁来检查规则、谁来承担失误的代价。