铭鸿体育资讯网

8月7日,OpenAI干了件特罕见的事——把自己还没发布的顶配AI,关了禁闭。

8月7日,OpenAI干了件特罕见的事——把自己还没发布的顶配AI,关了禁闭。

为啥?他们内部一测,发现这AI强得有点吓人:会自己找漏洞、自己策划网络攻击,全程不用人指挥。OpenAI有一套安全评估标准,用了快三年,以前最强的模型也只摸到"高危"那一档,这是头一回有模型够到"顶格"——他们自己原话是"无法排除它具备关键网络攻击能力"。

OpenAI是真怕了:把测试环境直接隔离,监控全开,一批内部开发先暂停,还主动通报了美国政府。CEO奥特曼出来说:这模型很强,我想让所有人都能用上,但得再等等。

以前怕AI说错话、编瞎话;以后,可能得怕它真动手了。OpenAI都怕成这样的东西,你敢让它满世界跑吗?