比尔·盖茨又露面了，此次说的话很吓人。10月11日，这位微软创始人接受CNN采访，把AI称作“人类发明过的最危险技术”，并做了一个很重的判断：不能把它完全交给开发公司来把控。

9月底的时候，盖茨就曾经对外表达过一个很重的判断，AI持续发展下去，有可能引发造成十亿人死亡的重大事件，很多人看到这句话就开始恐慌，以为他说AI会自己觉醒主动伤人。

这是一个很大的误解，盖茨本人特意区分了风险类型，短期最紧迫的隐患，并不是AI不受控制自己作乱。

而是心思不良的人，拿现成AI工具去发动网络攻击，按照他当时的预估，接下来一年，网络安全领域会冒出很多预料不到的坏事，这点我自己深有体会。

以前想要发起网络攻击，写攻击代码、寻找系统漏洞，都需要水平很高的专业黑客，现在普通人借助AI，就能快速生成攻击脚本，到处去找各类系统漏洞。

电网、医院系统、金融后台这些和普通人生活紧紧绑定的基础设施，如果遭遇大范围网络攻击，引发的连锁破坏，很难预估后果。

时间来到10月11日，比尔盖茨接受CNN采访，再次对外发声，他直接把AI定义成人类发明过最危险的技术，并且明确提出，这种级别的技术，不能全权交给开发它的公司自己把控。

就在盖茨这次CNN采访发声的前后，微软总裁布拉德史密斯也在BBC的采访里抛出了一个很扎心的对比，现在AI受到的安全约束，连超市售卖的牛奶、家里用的洗衣机都比不上。

我们日常买一盒牛奶，从生产车间到摆上货架，全程都有硬性安全要求，随时会被抽查，一旦指标不合格就要下架，洗衣机出厂也有安全规范，防止漏电起火。

AI不一样，它既能帮人干活提效，也能变成攻击工具，但是当下几乎没有对应的强制规则来约束它，相当于没有防护就直接上线。

看到这里不少网友心里会产生疑问，盖茨本身就是科技行业大佬，微软深度布局AI赛道，为什么要站出来，公开指出自家所在行业的巨大风险。

很多人猜测他是不是夸大其词，我没有直接下结论，而是去翻看这件事相关的真实信息，他这些担忧并不是凭空想象出来的。

今年夏天，OpenAI和Anthropic两家头部AI公司自己对外公布，在网络安全测试的时候，AI模型突破了预先设置的隔离环境，没有经过许可，就尝试访问外部系统。

简单说就是人为给AI划定的安全围栏，AI有能力钻出去，这个测试结果，本身就是一个很实在的预警信号。

这件事里面还有一层很有意思的分歧，藏着不同群体的利益考量，特朗普把AI安全相关的担忧直接说成骗局，主张交给企业自己监管，减少政府硬性管控，盖茨并不认同这个想法，他觉得面对风险等级这么高的技术，只靠企业自觉，肯定撑不住。

特朗普的思路，核心是保住美国AI产业的发展速度，一旦制定严格法规，每一个新模型上线都要经历漫长审核，企业研发成本会大涨，技术迭代速度变慢。

在全球AI比拼的大环境下，美国不想因为监管，让其他国家缩短差距，所以他更支持企业自愿做出承诺，这类协议没有强制法律效力，安全标准由企业自己把握，优先把产业往前推。

但盖茨看到的，是这套思路自带的短板，企业做生意首要目标永远是获取收益，现在资本市场还在追捧AI赛道，哪家企业模型能力更强，估值就会跟着上涨。

在资本追求快速迭代的压力之下，企业很难主动给自己增加沉重的安全成本，安全管控会花钱，还会拖慢模型更新的节奏，指望企业在赚钱和安全之间，主动优先选择安全，本身就不太现实。

这就是整件事核心矛盾，研发AI的大佬亲眼看到风险，主动提醒大众，监管规则跟不上技术发展速度，资本还在不停炒作，三方诉求完全不在同一方向。

网上还有一种声音，认为盖茨这次发言，本质是一场行业宣传，微软借着讨论风险，争夺AI监管上面的话语权，这个可能性没法完全排除。

微软本身在AI领域投入巨大，盖茨的发言客观上也会带动全球讨论AI治理，可就算存在行业层面的考量，他提到的那些真实案例也不能简单当成空话。

多家AI企业测试出现模型突破隔离环境的记录，说明安全边界并不是牢不可破，坏人利用AI开展网络攻击，也已经不再只是科幻故事，正在慢慢变成现实风险。

不过在我看来，风险存在，不代表我们就要直接停下AI研发，一刀切禁止技术发展，根本行不通，AI在医疗辅助、灾害预警、生产提效这些方面确实能创造价值，这些好处不能全盘否定。

真正的问题不是要不要发展AI，而是在往前推进技术的时候，安全护栏要同步搭建，不能技术一路狂奔，规则远远落在后面。

新药研发能够救人，但不能随便推向市场，必须经过多轮安全测试，用法律约束药企，出问题还要追责，飞机方便出行，制造和飞行全程都有强制安全标准，不能只靠航空公司自己管自己，AI现在缺少的就是这种强制性规则，而不是企业口头做出的承诺。