AI误判中国船只运送核武零件!美军已准备登船,差点引发美中冲突

点击蓝字，关注我们

今年春季美伊战争期间，一份在美军内部流传的情报报告称，一艘位于中东的中国船只正在运送核武器计划所需零件。四名了解事件的人士说，美军随即准备拦截船只；其中两人说，武装军人已准备登船，另有消息人士称军机也已升空。直到行动即将开始前，官员深入核查才发现，这份报告由一名特种作战司令部分析员借助人工智能制作，聊天机器人误判了船上货物。

CNN无法确认被误认的货物究竟是什么。一名消息人士称报告“完全错误”，却“差点引发一场战争”。如果美军对中国船只采取行动，可能迅速升级成美中武装冲突。美国特种作战司令部太平洋分部和五角大楼没有回应CNN的置评请求。

消息人士说，分析员把来自驻夏威夷的美国特种作战司令部太平洋分部、与船舶货物清单有关的情报输入聊天机器人。目前不清楚所用工具是商业产品还是美国政府系统。聊天机器人把公开资料与政府掌握的秘密信号情报拼接在一起，得出错误结论。分析员随后再次利用AI把结论整理成军方人员通常信任的标准情报报告，并分发出去。

美军和情报机构正把AI用于大量工作，包括处理庞大的原始情报、选择打击目标、安排军事资源，以及管理预算、后勤和供应链。支持者认为，AI可加快战场决策；如果未来与中国或其他拥有先进技术的对手交战，美国不能在AI应用上落后。国防部长皮特·赫格塞斯（Pete Hegseth）今年1月公布“人工智能加速战略”，要求减少官僚障碍，并让约300万名军方和文职人员在各保密层级使用领先模型。

但多名美国官员表示，目前AI应用十分分散，不同部门使用不同工具、命令和安全标准，政府没有统一规定如何核实AI产生的资料。不同系统的可靠程度和功能差异很大。熟悉军方及情报部门AI系统的一名前高级官员说，部分内部工具其实只是商业产品的改装版本。

华盛顿最近集中讨论AI摆脱人类控制的长期风险，但中国船只事件揭示了更直接的危险：人类根据AI生成的错误或误导性内容作出灾难决定。消息人士说，美军正迅速扩大AI在目标选择中的使用，却缺少明确指导，说明怎样通过“人在决策回路中”避免平民伤亡或误伤友军。

一名消息人士表示，类似的AI“幻觉”并非情报机构中的孤立事件。部分资深情报官员即使支持军方使用AI，也担心技术迫使分析员更快生产和分发情报，增加出错机会；年轻分析员从小熟悉这些工具，更可能未经充分核查便相信结果。这名人士形容，AI只是让人“更快走到一个错误想法”。