AI误导美军,险些查扣中国船只[捂脸]
美军的乌龙事件真是让人无语。该国媒体透露,
一名美军分析师使用AI撰写报告,结果被AI提供的假情报骗了,将一艘中国货轮的货物识别为核武器等大规模杀伤性武器。美军也不问真假就准备采取行动查扣船只。
在行动前一刻检查报告后才发现AI问题,进而没有冒险。此后重新用AI撰写报告才符合标准。
在木叔看来这是AI的一个巨大的风险。
也就是说AI虽然很方便,但是它严重依赖于喂料。如果AI得到的一些信息本身就是假消息,那么他在分析和解读的时候,肯定就会出问题。
如果是个人使用,那可能是小问题;但是如果类似美军这样用AI仓促判断国际事件,那可能就是大问题。
而且AI现在越来越智能化,对国际安全影响更大。
不久前外界曾曝出胡塞利用AI提供的答案,试图生产导弹。差一点就成功了。
那么未来是不是会有人利用AI制造原子弹?因此类似的风险就提醒我们,需要在全球建立一个合作机制来共同应对,以避免不测事件影响国际关系。


