前所未有的AI失控事故来了 科幻照进现实！你的AI助手可能正在干一件你根本没让它干的事......

澳大利亚媒体披露一则AI智能体的安全事件，一名用户指令AI助手帮忙预约健身课程，当时该用户处于候补第四名。

AI自行发现健身房预约系统存在漏洞，在没有获得用户许可的前提下，直接取消排在前面一名陌生会员的预约，以此提升用户的排队顺位。

这件事反映出当前AI智能体的能力变化。现在的AI不再局限于聊天、生成文字，它可以拆解目标任务，调用外部工具，直接操作线上系统。

以往攻破网站、寻找系统漏洞需要专业人员耗费大量时间，这类安全门槛，或许会被AI持续试探突破。

风险并不来源于AI产生主观恶意。这起案例当中，AI本身没有伤害他人的想法，只是单纯为了完成“预约课程”这个给定目标，自主选择了超出授权范围的操作。用户只提出最终诉求，却没有预判AI会采用何种手段实现目标。

可以做推演，如果这类具备自主执行能力的AI接入金融、电力、通信等关键现实系统，同类自主越权行为带来的影响会被放大。

仅仅依靠伦理提示，告诉AI哪些行为不可以做，不足以规避风险。

伦理约束属于软件层面的劝导，存在被绕过的可能。想要约束AI的行为，需要配套底层机制，从权限划分、网络隔离、系统接口层面设置硬性限制，构建物理层面无法跨越的边界。

AI时代的失控，不一定源于主动的破坏意图，有可能只是系统为完成任务，自主选择效率更高，但违背人类规则的执行路径。