最近美国CNN爆料一个让人感觉到很惊悚的新闻。9月19日，CNN报道称：“在今年春季美国对伊朗发动战争期间，美军居然被一份用AI生成的不实军情报告误导，险些派兵全副武装地冲上一艘中国船只。”按照这个报道内容，在美国对伊朗发动战争后，一份情报报告在美军内部传阅。该情报竟然造谣称：“中国一艘船只正在中东地区向伊朗运输核武器相关零部件”。CNN引用知情人士的说法称，美军当即开始围绕这份军情报告制定“作战计划”，包括让全副武装的美军士兵冲上那艘中国船只，还出动了美军战机。但就在冲突即将爆发之前，美军官员在对情报的一次复核中突然发现一个致命的问题：这个情报竟然是分析人员用AI胡写的。首先，我也是要强调一下，CNN这类西方媒体引用所谓“知情人士”的报道，经常是半真半假，不能尽信。不过，当前AI确实也存在AI幻觉，存在九真一假的问题。虽然过去这一年，随着AI大模型的快速迭代，AI幻觉的问题有了很大改善，但仍然还是存在。并且，相比之前的半真半假，现在AI幻觉“九真一假”，其实反而更容易出问题。先通过前面的“九真”来获得使用者的信任，在使用者开始麻痹，轻信AI说的话后，AI就可能出现幻觉，开始胡诌了，而这时候轻信AI的人，就有可能在不经过查证的情况下，把AI胡诌的事情，信以为真。而且AI胡诌时，因为一本正经，而且通常会罗列很多数据，进行很工整的回答，甚至会把自己胡诌的数据，贴上引用权威文件来源，但实际上，你实际去权威文件里查，就会发现AI是胡诌的。再加上AI现在是九真一假，这使得缺乏独立思考和查证能力的人，是很容易轻信AI的胡诌。普通人轻信AI胡诌，也顶多就是“误”了自己，比如拿去反驳别人时，拿AI说的话当论据，结果被人指出是AI幻觉，也只是自己丢人。但如果是美军的情报人员，轻信了AI胡诌，并且整个体系缺乏这种内部核查机制的话，就很容引发大问题。