美军乱用AI差点引发一场与中国的战争！CNN独家报道称，美伊战争期间，美军情报分析发现一艘在中东水域航行的船只上装载了核武器相关的重要部件。中央司令部获取信息后，美军迅速展开行动，准备拦截该船登船检查，当时军机都已经升空。

然而在行动正式开始前，负责这项行动的高层官员再次仔细查看了特种作战司令部分析员整理的报告，结果发现这份报告是借助AI生成的，并且情报分析人员使用的AI错误识别了该船装载的物资，CNN报道没有明确该船装载了什么物资。

这名官员立刻核实，确认这份情报子虚乌有！消息人士表示，这差点就引发了一场战争，因为任何针对中国船只的美国行动都可能导致两国之间陷入武装冲突。

CNN报道称，在美国军方与情报界，AI已经融入了他们工作的每一个方面，从分析美国收集的海量原始情报并选择打击目标，到管理预算、后勤和供应链等已经成为日常应用。

但这种操作也让这种强大、全新且并不是完全透明的技术对目标定位时存在的巨大风险，因为AI很容易被大量错误数据污染，CNN表示，如果美军长期依赖这种糟糕的被篡改的数据，那么将会让美国在未来某个时候陷入一场错误的战争！

9月17日，联合国人权理事会将美军对伊朗米纳布小学的袭击定性为无差别攻击，构成战争罪！

今年2月28日，美以对伊朗发动军事行动首日，美军导弹击中伊朗南部霍尔木兹甘省米纳卜市沙贾雷・塔耶贝女子小学。
至少155–175人遇难，其中约120人为在校儿童，还有教师与家长遇难。这所小学紧邻伊朗革命卫队海军设施，但调查确认学校本身是民用建筑，没有证据被用作军事用途

联合国人权理事会授权的伊朗问题独立国际实况调查团认为美方明知存在击中民用校舍的重大风险，却对该风险持鲁莽放任态度，并非简单工作疏忽。同一份报告还认定美军同日袭击伊朗拉默德一处体育中心的行动同样构成战争罪。

现在看起来，美军是不是也使用了AI来判定目标？是否AI观察到了这所小学有军人出现？这个小学在军事基地附近，这种概率本来就比较高，很有可能就是因此被判定为军事属性！

美军这是使用AI草菅人命，但是这些调查结果对美军没有约束力，因为联合国人权理事会并不能因此针对美国执行什么措施！从南联盟大使馆被炸，到美军怀疑银河号搭载化学武器运往伊朗，这些事件中，美国错了，错得非常非常离谱，但是美军相关责任人被惩罚了吗？

AI幻觉是一个非常严重的问题，AI本身并不会提供判断，它是基于海量数据分析得出的结论，AI并不比人聪明多少，它的优势是可以在短期来处理海量信息。

这也是AI幻觉产生的原因，因为这些数据可以被污染，比如上文中米纳布小学被袭，情报分析不需要海量军方人员出入小学的数据，只需要一两笔即可，因为这本来就是情报分析的策略要求，从海量数据中去发现个案。

AI报告的本身如果经过人工审核或更高级的AI可能会过滤掉这种幻觉，但在美伊战争期间紧张的环境下，比如AI确认中国船只搭载了核武器重要部件，这种情报立刻就会触发最高层级的预警，人工交叉审验会被压缩甚至忽略，继而就是军机升空、特种人员准备登船，只差下达最终行动指令。

一旦登船，就是在公海对他国民用船只采取武力扣押，直接触发大国海上对峙，极易升级成中美直接军事冲突。用CNN报道的原话概括就是：这份完全虚假的情报，几乎引发战争。

民用幻觉最多就是学术错误，闹个大乌龙！但军事AI一旦出现幻觉，那引发的结果就是上武装冲突、大国危机、甚至地区战争。

军事AI幻觉不是实验室小bug，在国家安全、军事决策场景下，属于战略级风险。

美军以及美国对AI的问题不是能不能用的问题，而是他们一直都自我感觉良好，美国AI天下第一的错觉！

Anthropic的CEO阿莫迪、OpenAI的奥特曼与马斯克呼吁全行业放慢前沿大模型能力提升速度，建立第三方常驻安全审计、统一行业安全标准、跨国管控高危AI能力

他们公开的理由是AI已经出现递归自我改进的苗头，内部测试发现多智能体集群存在越狱、越权访问的风险；他们预判未来6~12个月，强自主智能体集群可能造成大规模网络、经济灾难；安全护栏、风险评估跟不上技术迭代速度，需要时间补齐安全研究与监管框架

他们正在试图建立一个美国AI太先进，发展太快的叙事逻辑，未来AGI（通用人工智能）呼之欲出，现在呼吁行业缓一缓发展，等各项监管成熟后再发展。完全站在了全球AI产业发展的道德高地上。

然而外界的解读却是美国的AI发展陷入瓶颈，天文数字一般的烧钱与AI产业收益完全无法匹配，照此逻辑下去，美国AI泡沫分分钟破裂，所以现在他们要营造一个叙事逻辑，美国AI产业并非因为发展瓶颈陷入低谷，而是他们主动踩刹车！

各位明白美国的套路了吗？一边是AI因为幻觉差点引发战争，一边是发展陷入瓶颈的超级焦虑！在这个背景下，估计AI泡沫破裂也快来了吧！