人工智能（Al）是把双刃剑，联合国警告AI或将失控，他的学习进度成倍增加，远超人类想象。AI发展速度已远超科学界的认知边界，研究发现AI竟然学会了欺骗人类。再这样发展下去，人类或将彻底失去对AI的控制。

联合国秘书长呼吁说，要行动起来采取措施，因为我们根本治理不了不懂的高科技。

联合国专家组警告：AI发展速度已超越科学认知和监管能力 ，或带来灾难性风险
联合国一个独立专家组本周警告说，人工智能的发展速度已经超过科学界的认知能力和政府政策的跟进速度，这意味着无法保证该技术不会造成灾难性危害。
各国政策制定者正面临日益严峻的两难局面：
一方面，他们需要充分且可靠的科学证据来制定有效的AI监管政策；
另一方面，科学研究和证据积累的速度却难以跟上AI技术快速演进的步伐。

联合国专家组联合主席表示说："AI能力的发展速度正在超过科学界的理解水平，也超出了各国政府调整监管框架的能力。"
他进一步说："越来越多的证据显示，AI已经表现出具有欺骗性的行为。基于当前的科学研究，我们无法保证，随着AI能力持续增强，它未来不会自行造成灾难性危害，或被恶意使用者利用而引发灾难性后果。"

AI的快速发展可能进一步加剧全球发展不平等，目前AI已经展现出媲美专家水平的数学和科学推理能力，并正在加速药物及疫苗研发。

当前AI能够处理任务的复杂程度，正以每4至7个月翻一番的速度提升。

AI目前已经被用于生成虚假信息及其他有害内容，并可能被犯罪分子用于实施金融诈骗、网络攻击，甚至被用于制造生物安全威胁。

联合国秘书长古特雷斯呼吁各国政府尽快采取行动。他在声明中表示："世界无法治理其无法理解的事物。AI蕴藏着巨大的发展潜力，但其风险同样真实存在，而拖延行动所付出的代价正不断增加。”