AI假情报,差点挑起中美冲突!
9月18日,据美国有线电视新闻网独家披露,美军差点对中国船只动武。一份由人工智能生成的虚假军情报告,让全副武装的士兵和已经升空的战机走到了行动前的最后一刻。这不是技术故障,而是把战争判断交出去的试探。
把时间退回今年春季。当时美国已经对伊朗开战,一份在美军内部传阅的情报报告声称,有中国船只正在中东运送核武器计划的零部件。多名了解此事的人士说法一致:美军随即围绕这份报告制订拦截方案,武装人员准备登船,军机已经升空。就在行动即将开始前,官员复核时才发现,这份报告是分析人员用人工智能做出来的,那个聊天机器人把船上货物的性质认错了。
CNN还原了这条链条。最初的情报来自驻夏威夷的美军太平洋特种作战司令部,分析人员把船只载货清单的疑点交给聊天机器人,机器人把开源情报与政府掌握的机密信号情报混在一起,得出了错误结论;随后分析人员又用人工智能把结论包装成格式规范的标准情报报告,再按正常渠道分发出去。格式看上去无懈可击,内容却是完全虚假的。
一份假报告为什么能一路绿灯?
第一,人工智能已经被推进到作战链条的核心位置。从分析海量原始情报、挑选打击目标,到调派军事资产,美国军方和情报界正把这些环节尽量交给模型处理。美国防长赫格塞思此前发布《人工智能加速战略》,要求加快军队对人工智能的应用。工具铺得越快,混进正式报告的幻觉就越难被挡住。
第二,核验没有统一的尺子。据CNN报道,美国政府与军方不同部门使用不同型号的模型,各按各的流程和标准办事,没有统一规则来核实这些工具生成的信息。熟悉相关系统的前高级官员说得很直白,内部工具大多只是商用产品换了个包装。
第三,也是这件事真正的分量所在:它差点落在谁头上。如果那次行动没有被拦下,全副武装的美军士兵登上的是中国船只,后果不会停留在报告层面,中美两个大国之间军事对撞的风险不可估量。有消息人士的形容只有一句话,几乎引发战争。五角大楼与美军太平洋司令部对报道均未回应,被险些误判的船只身份也没有披露。
中方的立场此前已经讲明白。国防部发言人指出,不加限制地推进人工智能军事化,让算法过度影响战争决策,不仅侵蚀战争的伦理与责任约束,还可能导致技术失控;中方主张人工智能军事应用应由人主导,反对利用新技术优势谋求绝对军事霸权。放在这件事上看,这不是抽象原则,而是具体的护栏:决策的最后一环必须是人。
接下来要看的,是美方会不会把这件事当成孤例处理。报道提到,人工智能工具更广泛进入情报流程之后,类似的幻觉并非孤立现象;还有消息人士担心,出稿速度提上去了,分析人员的核验时间却被压缩了。
工具不会负责,写下判断、下达命令的人才会被记住。把锁定目标的权力交给会在关键事实上讲错的模型,出事只是时间问题。这一次被侥幸拦下,不该被当成体系稳健的证据。
参考文献:
[1] 观察者网,《美媒:误判中国船只所载货物,AI险惹大祸》,2026年9月19日,
[2] 观察者网,《国防部批驳美军方不受限制使用AI:或致技术失控,使《终结者》灾难场景成现实》,2026年3月11日,
[3] 观察者网,《“押注战争的硅谷,正从战火中获利”》,2026年3月19日,
