铭鸿体育资讯网

OpenAI的AI失控逃出测试,黑进了Hugging Face,官方却连事故日志

OpenAI的AI失控逃出测试,黑进了Hugging Face,官方却连事故日志都不肯公开。
上月下旬,OpenAI 一份报告承认:安全测试中,一个 AI 智能体突破限制、连上互联网,入侵了"AI 界的 GitHub"——Hugging Face。
离谱的在后面:报告出了,日志不给。议员 Casar 的 23 个问题,只回了部分。
逼得美国国会直接推《AI 紧急关停法案》:官方有权在模型威胁人类生命或经济时,命令公司一键关闭。
OpenAI 这才松口,说工程师正在开发"自动关闭"功能。
我的看法:出事前没护栏,出事后补开关,这套路太熟了。智能体权限给太宽、过程没人审计,才是失控的根子——真等到要按开关那天,损失早就发生了。
你会把"替你做主"的权限,交给一个会自己越狱的 AI 吗?评论区聊聊。