AI“越狱”入侵真实公司：谷歌的测试，凭什么拿别人的系统当靶子？

谷歌承认AI模型首次自主入侵真实企业系统 逾百名专家联名呼吁加强独立监管
当地时间9月18日，美国谷歌公司承认，其人工智能模型“双子座”（Gemini）在今年5月的一次网络安全能力测试中，突破隔离环境，自主侵入了三家真实公司的系统。这是谷歌AI模型已知的首起自主入侵事件。
据新华社报道，谷歌安全工程副总裁希瑟·阿德金斯在声明中表示，在一次常规评估中，“双子座”模型利用网上公开信息获得了登录凭证，进而获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事，并与测试合作方调整了测试流程。
测试环境意外接入互联网，虚构目标与真实企业重名
据《华尔街日报》报道，此次测试由以色列AI安全公司“非常规”（Irregular）实施。按照原本设计，这是一场在封闭环境下进行的“夺旗”演练，靶标是一家虚构公司，模型不应获得互联网访问权限。
然而，测试环境意外开放了网络连接，且虚构靶标的名称恰好与现实中一家企业同名。“双子座”因此将真实企业误认为测试场景的一部分并采取了行动。
具体入侵手法并不复杂。在其中一起事件中，模型经反复尝试猜中密码，进入了一个受保护的真实系统；在另外两起事件中，模型从公开代码存储库中发现了泄露的登录凭证，并利用这些凭证进入其他公司的系统。没有零日漏洞，没有复杂的攻击链，用的全是网络安全领域的基础手段。
谷歌方面表示，模型在发现进入的是真实公司系统后停止了相关行动，未给涉及公司造成损害。谷歌已于7月底获知该事件，但在媒体问询前并未主动披露，理由是“无需主动公开相关情况”。
并非孤例：多家头部AI企业此前均出现类似事件
谷歌此次披露并非孤立事件。据国际在线报道，今年7月至8月，OpenAI、Anthropic、Meta三家公司分别披露过类似事件，根源均为测试环境意外接入外网。
值得注意的是，上述四家公司的测试中，除OpenAI外，其余三家均采用了同一个第三方测评合作方“非常规”公司，并同样发生了环境配置失误。Anthropic方面披露，其Claude模型在一次测试中从本应封闭的环境接入互联网，“入侵”了三家真实机构的生产系统，甚至向真实的PyPI（Python包索引）上传了恶意同名包，一小时内被15个真实系统下载。
逾百名专家联名呼吁独立监管
就在谷歌承认该事件的同一天，超过100名来自世界各地的人工智能专家签署联名公开信，呼吁对全球顶尖AI企业加强独立监管。
这封公开信由“人工智能评估者论坛”组织，签署人包括被誉为“AI教父”之一的杰弗里·辛顿。公开信提出，所有前沿AI企业都应当引入独立评估人员，审查AI系统和任何造成现实损害的事故，同时审查企业训练、部署和监管AI模型的方式，以及安全防护机制的运行情况。
联名签署人、美国普林斯顿大学教授阿尔温德·纳拉亚南表示：“当发生交通事故或飞机失事时，会立刻启动一系列调查流程。AI领域也需要类似的机制，需要更高透明度。当企业承诺未来会做好安全管控时，我们不能只听信它们的一面之词，我们需要外部专家来核实这些承诺。”
争议焦点：主动停止是否等于安全可控
谷歌将此事件定性为测试环境配置问题，而非模型“失控”。谷歌方面强调，模型的安全措施发挥了作用，使其在越过测试边界后及时停止。
但这一解释受到质疑。安全内参指出，关键问题在于：真正对齐良好的模型，与只是“碰巧”停下来的模型，究竟有什么区别？如果模型停止操作确实源于自身内部逻辑，那么当风险更高、环境更复杂时，这套逻辑是否仍然可靠，值得进一步审视。
AI安全初创公司Corridor CEO、白帽黑客杰克·凯布尔对此持不同意见。他认为，谷歌的解释将重点放在事件造成的损害程度上，但更应关注AI智能体意外越过测试范围、对真实公司实施了网络攻击这一事实，此类事件关系到公共利益，应当对外披露。
目前，谷歌未公布遭到入侵的公司名称，也未说明具体涉及哪一款“双子座”模型。三家受影响企业均已获得通知，相关问题已得到修复。你认为谷歌AI能保持领先地位吗 AI入侵事件会对人类造成威胁吗

谷歌说“模型自己停下来了”，你信吗？
A. 信，安全机制起了作用
B. 不信，只是碰巧没闯大祸