CNN爆料:美军被AI假情报误导,差点对中国船只下手?

今年春季，一份在美军内部流传的虚假情报报告称，一艘停泊在中东地区的中国船只正运送用于核武器计划的部件。

四名知情人士透露，美军在阅读该虚假报告后迅速调兵，不仅出动军机在相关空域巡航，还做好了登船拦截的准备。

然而，在发动军事行动前不久，美军官员最终查明该情报系人工智能错误生成，在最后一刻取消了行动。

一名知情人告诉CNN，这份虚假情报险些“引发冲突”。

据披露，这起事故源于一名军事分析人员向人工智能聊天机器人查询一份由美军太平洋特种作战司令部撰写的关于中国船只的报告。

该人工智能工具随后将机密情报与互联网上的公开信息进行混淆融合，最终“凭空捏造”出该船只运载核部件的结论，而军事分析人员在未加核实的情况下便将该错误结论编入新的情报报告中。

多位消息人士指出，美军正日益将人工智能引入军事打击目标选定等高风险领域，但缺乏有效的人工监督和明确规范。这种将算法应用于生死攸关决策的做法极易导致灾难性后果。

截至目前，尚不清楚该款人工智能聊天机器人的来源，可能是某款商用模型，也可能是专为美军开发的模型。

尽管人工智能存在严重的技术缺陷与“幻觉”风险，但美军仍在大力推进相关部署。

今年1月，美国防部长赫格塞思（Pete Hegseth）发布了所谓的“人工智能加速战略”，鼓吹消除官僚壁垒，并全面加快美军人工智能军事化进程。

而当前，科技界已频频警告人工智能“失准”或产生有害信息的风险。然而，在美国国内，以特朗普为首的政客仍执意反对对人工智能行业进行有效监管。

媒体防线认为，针对此次中国船只事件，人工智能很可能出现了“幻觉”，凭空捏造满足用户某种需求的虚假信息。