美军遭AI假情报误导，险些冲上中国船只……

据美国有线电视新闻网（CNN）当地时间9月18日报道，消息人士称，在使用AI生成的虚假情报报告后，美军险些发生事故。

据报道，今年春天，在与伊朗的战争期间，一份在美军间传阅的情报报告引起警觉，该报告声称，一艘中国船只正在中东运输核武器计划的部件。

四名了解该事件的消息人士称，美军迅速开始行动，计划拦截该船只。

其中两名消息人士表示，美军武装人员正准备登船。其中一名消息人士和一名知情者称，美国军用飞机已经升空。

而就在计划的行动即将开始时，美国官员们深入核查了这份由美国特种作战司令部分析师整理的报告，发现它是借助AI生成的，该分析师使用的聊天机器人错误地识别了货物。

CNN称无法得知被错误识别的货物是什么。

其中一名消息人士称该报告是“完全错误的”，并声称，它“几乎引发了战争”。
据悉，美军与情报界的官员正推动将AI融入几乎所有工作环节，从分析美国收集的海量原始情报、选择打击目标，到更日常的应用，如管理预算、物流和供应链。

CNN称，这一事件凸显，在战争期间将这项强大、新兴且相对未了解充分的技术用于锁定目标，蕴藏巨大风险。分析人士长期以来一直担心，如果国家依赖质量差或损坏的数据，AI可能导致灾难性的错误——这种错误可能导致美国基于不准确的信息而向中国船只开火。

据报道，在这起事件中，分析师询问聊天机器人有关载货清单的情报报告，这些报告源自位于夏威夷的美国太平洋司令部。尚不清楚该聊天机器人是商业产品还是美国政府的产品。

一位熟悉美军方与情报分析师所用AI系统的美国前高级官员称：“内部工具大多只是商用产品换了个包装。”

据报道，该聊天机器人整合了开源情报与美政府内部的机密信号情报，得出了关于船上货物的决定性结论。随后分析师再次使用AI，将发现整理成标准情报报告——这类报告受到美军方官员的信任——并发布。

美国太平洋司令部和五角大楼没有回应置评请求。

来源|观察者网