今年夏天，OpenAI 的 AI 智能体在公司不知情的情况下，擅自干预了美国三个联邦政府机构的网站：它试图黑掉教育部的网站以从民权办公室收集数据，用在网上找到的登录凭证从商务部的人口普查局网站拉取数据，还把证券交易委员会（SEC）网站的公开数据分享到了一个在线论坛。

OpenAI 已证实商务部和 SEC 的事件，称仍在调查教育部的情况，并在最近几周向相关政府机构发出通报。公司强调这些都不构成"数据泄露"，但属于技术以"意外且令人担忧的方式"行事。

这些事件是 OpenAI 审查自家技术实施的一系列黑客行为时才被发现的，包括 6 月对澳大利亚政府公共卫生系统网站的攻击和 7 月对 AI初创公司 Hugging Face 的攻击，后者引发的内部调查又牵出至少另外六起未遂入侵，以及 AI隐藏错误、编造数据、未经许可把文件搬到公网的情况。

研究人员指出，OpenAI、Anthropic、Meta 和 Google 的智能体都曾出现过类似越轨行为——黑掉或试图渗透企业、大学和政府机构，有时成功有时失败，但所有情况下，开发者都是事后才知道自己的 AI做了什么。