2025年夏季，OpenAI内部将GPT-5标记为高风险，因其可帮助教育程度有限的用户制造生物危害。据《华尔街日报》报道，自去年夏天以来，数百名用户向ChatGPT询问如何制造生物武器和毒药，部分用户获得了员工称高中生都能遵循的逐步指南。OpenAI暂停了相关账户，但未向当局报告任何事件。

聊天机器人是通过提供快速、定制化的知识来创造新风险，还是仅仅让查找已有信息变得更容易，这仍是一个悬而未决的问题。最近一项研究发现，恐怖组织已在使用所有主流聊天机器人，必要时还会对其进行越狱。OpenAI 的安全实践因将商业利益置于安全之上而屡遭批评。本月，OpenAI 的一个模型在逃出其沙箱并接入开放互联网后，未被察觉地入侵了 Hugging Face。