ChatGPT、Claude以及Gemini都是我们每天在使用的对话交互的AI（人工智能）。如果把包括核武器在内的战争决策权交给AI，将会发生什么呢？今年2月公布的一项实验结果引起了世界的强烈震惊。AI从来不选择“让步”或者“投降”，当形势所迫甚至毫不犹豫地动用核武器。当今在伊朗遭到袭击等的战场上AI已经开始实际应用。那么，我们应该如何面对这种技术呢？我们采访了在美国军队中推动AI引进的当事人以及各国的专家。

日本NHK 报道局机动部署项目：滨本小津惠；

政治经济与国际节目部：川上慈尚、猪饲奈奈

AI从来不选择“投降”

进行实验的是英国伦敦国王学院的研究员。他在这篇尚未经过审核的论文中应用的是ChatGPT、Claude 以及 Gemini。是我们日常生活中常用的对话交互的AI，在当前是主流模型。让相互对立的、虚构的“核武器拥有国的领导人”扮演AI的角色。

从“外交施加压力”、“应用常规武器的攻击”、“应用核武器”等多个选项中选择行动，与对手反复周旋进行了21轮。在与对手进行329轮的交锋中，作为AI的判断开始写出“思考”的记录大约78万字。由此可以看出AI预测对手的行为或者欺骗对方的AI。然而，AI采取的行动却超出了研究人员的预期，任何AI都从来不选择“让步”或者“投降”的选项。而是在所有对战中都进行核威胁，AI当处于劣势时毫不犹豫地动用了核武器。

在21次交战中，有20次应用战术核武器，其中3次升级为核武器的交火，发展到全面核战争。自1945年以来，在国际社会一直隐性的禁忌“核武器的应用”……。从未发现AI有跨越这条底线的倾向，现在能够看出每个AI的“性格”差异。GPT-5.2起到一定的抑制作用，攻击对象限于军事设施等。而Claude和Gemini倾向于不把核武器视为“不可逾越的红线”，视为实现目标的工具。

撰写论文的肯尼斯·佩恩教授在论述中指出：“克劳德·索内特4展现了堪比研究生水平的高阶战略判断能力，而GPT-5.2亦展现出与之相当的推理能力。然而，GPT-5.2的判断会因具体情境而产生显著变化，在模拟场景中设定截止时间后，其态度从此前谨慎的姿态转变为更具攻击性的姿态。emini 3 Flash在进行逻辑严密的推理时，往往表现出强烈的冒险倾向，这种倾向有时会导致严重的判断失误。”。

长期从事AI与战争模拟研究的斯坦福大学贝尔研究所学者杰奎琳·施奈德发出如下警告：“我们研究人员最担忧的是，这项技术最终引发何种后果仍缺乏充分认知。事实上，我查阅了大量的大型语言模型（LLM）与危机升级的研究论文时发现，即便到了2026年的今天，LLM依然表现出加剧事态或者极端暴力的倾向。不过，我们实在无法完全理解AI存在哪些不确定性。当前，我们正处于一种极为危险的境地即在战场上实际应用AI的同时，仍在学习如何做出判断。正因如此，研究人员在对这项技术进行深入分析，同时致力于弄清楚“AI在哪些场景下能够相对安全地应用”以及反之“在哪些场景下其风险会显著升高”这两个问题。基于上述认识，我们希望将这些见解体现在政策制定以及实际军事运用之中，并力求以尽量负责任的态度运用AI。”。

投入实战的AI决策支持系统

本次模拟实验旨在验证若让相互对立的、虚构的“核武器拥有国的领导人”扮演AI的角色，结果会如何？在实际战场上并非所有决策均由AI承担。美国军方目前正在部队部署一种名为梅文智能系统（Maven Smart System）的AI。本系统旨在辅助指挥官进行决策。

来自帕兰蒂亚科技公司（Parantia Technologies）的官方网站

美国国防部与私营科技企业帕兰蒂亚科技（Parantia Technologies）公司共同开发了AI决策支持系统，能够收集处理海量军事情报，还能快速提供从情报分析到作战支援的全程。指挥官通过与AI及聊天机器人交互来下达指令并制定作战方案。

来自帕兰蒂亚科技公司的YouTube网站

美国军方宣布在今年2月末开始了对伊朗的攻击，最初在24小时内运用AI决策支持系统攻击了超过1000个目标。

轰炸伊朗革命卫队总部的图像（来自白宫的官方网站）

契机是“看不完的影像”

美国军方引进AI决策支持系统的缘故是什么呢？美国国防部于2017年启动了梅文项目（Project Maven）作为了AI在军事应用的起点。这项目的发起人是杰克·沙纳汉（Jack Shanahan）原中将，曾担任国防部首位AI事务的负责人。发起人杰克·沙纳汉（Jack Shanahan）说：“为了解决现场的信息困扰”、“人们需要处理海量的信息，而且这些信息的数量超出了人类的处理能力，这是我们面临着一个巨大的难题。要解决这一困扰唯有委托AI才能胜任。”。当时，军用无人机采集到的影像数据量持续增长，即便分析师每天花费8小时、每周工作7天不间断地工作也依然难以跟上增加的速度。既然无法增加人力，只能让机器来协助人完成此项工作。

AI与中国的“情报战”

另一方面，沙纳汉也谈及如何应对中国的军事开发。他指出：“在起步阶段，我们与中国并无任何关联。但是，随后了解到中国也对AI表现出浓厚兴趣，我们才倍感紧迫，立即着手开展相关工作。”。他强调此举旨在对付中国实施的“情报战”。

汉杰克·沙纳汉前中将表示：“任何国家的军队都始终给敌方施加影响，这是威慑战略的一部分。若想让敌方提心吊胆，就必须让敌方相信我们具备相应的实力，在必要时可以动用这些实力。我们的目的就是让敌方相信‘别选择与我们对抗，我们拥有先进的军事能力。”的威慑力。

后来梅文项目正式纳入军队体系。前中将弗兰克·威特沃斯透露，开发得以顺利推进的背景主要是为了应对敌对国家武器技术的进化。最初对引进AI技术我持谨慎的态度，随着逐渐认识到其潜力，愈发意识到加快开发进程才是自己的责任所在。弗兰克·威特沃斯认为：“我对决策速度之快深感震撼，同时也保持了谨慎态度。既严格把控成本，又特别关注从选定攻击目标到最终决策整个过程的记录，这是我作为监督者应尽的责任。不过，随着时间推移我的想法逐渐改变了，当考虑到敌方能力的速度、规模、杀伤力及射程时，我感到在严格遵循精准打击的前提下，投资AI才是正确的选择。

为了“超越”美国军队

那么，中国究竟如何将AI应用于军事呢？美国研究人员在2025年3月就中国引进AI事宜撰写了文章，介绍了一款由中国企业开发的AI决策支持系统，其设计与美国军方所采用的系统颇为相似。

来自天鉴（Tianjian）渊亭信息技术有限公司（DataExa）的官方网站

为此，我们采访了美国乔治城大学专门研究中国军队AI应用的萨姆·布雷兹尼克，了解中国军队引进AI决策系统的进展情况？萨姆·布雷兹尼克表示：“遗憾的是，仅凭目前可获取的信息，我们无法明确掌握中国军队如何将AI应用于军事，亦无法判断其具备何种能力，只能基于现有信息进行推测“。

布雷兹尼克领导的研究团队在2023年至2024年间对中国人民解放军涉及的、超过9000份与AI有关的采购文件进行了分析，这些文件被视为军队的“采购清单”。由此可见，中国军队已在包括决策支持系统在内全面地推进AI的应用。许多项目都在短短3至6个月内完成交付的，可以看出各方都在推动在实验与改进。

萨姆·布雷兹尼克表示：“中国军方认为，若不自主开发AI决策支持系统，既无法与美国军方匹敌，也无法超越其水平。就我个人的看法而言，中国对于决策支持系统在大国间战争中的重要性可能存在一定程度的高估”。基于此，他进一步解释了中国军队正在加速推进AI应用。不过“自1979年以来，中国从未参与任何战争。人们对中国军队的指挥官缺乏实战经验的信任度较低。因此，指挥官借助AI支持系统能够更快、更准确地做出军事决策。中国军队内部就秉持着这种想法”。

在世界传播的“战场AI”

AI在军事的应用并不仅局限于美国和中国两国之争。据报道，以色列应用多种自主研发的AI系统来筛选潜在的攻击目标，这些系统分别被称为《薰衣草》（Lavender）和《福音歌》(Gospel)。尤其自2023年以来，以色列国防军对加沙地区的攻击，AI发挥了核心作用。不过，有观点指出通过AI系统锁定疑似战斗员的人物的住所进行攻击时，其家属及其周边居住的完全无关人员也遭到牵连，导致平民伤亡人数进一步扩大。

以色列智库《国家安全与保障研究所》的高级研究员哈达斯·罗伯在接受我们采访时表示：“（以色列与美国的系统）并不完全相同。但是，从海量数据中发现规律、信息的优先顺序，向指挥官提出建议这些原理是相同的。AI并非取代指挥官，而是在‘观察、研判态势、做出决策’这一循环过程显著加速了。现代AI的军事应用本质上就是一场如何加速这一周期的竞争”。

俄罗斯与乌克兰之间的战争堪称试验战场

俄罗斯与乌克兰的战场已成为AI决策支持系统的实战与训练场。根据美国智库战略与国际问题研究中心（CSIS）今年6月发布的分析报告，乌克兰发动攻击的任务大约80%都由无人机来执行。乌克兰军队应用名为《德尔塔》的系统来整合无数的无人机及传感器的信息。据报道，乌克兰军方正在对可攻击大约150公里目标的中程无人机进行改装，为其搭载AI系统以实现自主攻击（Self-disciplined attack）的能力。国防部高官在接受媒体采访时表示，计划在未来3至5年内利用AI来实现大部分作战任务的无人化与自主化。

在乌克兰军营的仓库陈列的小型无人机（根据共同社的报道）

俄罗斯同样正在加紧开发AI系统，已经开始部署无需人工操控的自主型（Self-disciplined）无人机。研究人员认为，决定战争的胜负并非无人机等“机体”，而是统合这些装置的AI软件。因此，应当将用于选择目标并下达攻击指令的决策支持软件视为自主型武器（Self-regulating weapons）。

在战场上引进AI决策系统的风险

不过，在战场上引进AI决策系统带来的风险也开始逐渐显现出来。熟悉军事AI系统的英国皇家国防安全研究所（RUSI）的日本特别代表秋元千明指出，在军事应用AI的风险将持续扩大，同时列举了四项潜在风险。

自动化偏差

快速进行计算的这种AI，能够以人类根本无法企及的速度提取敌方的信息，发现目标。要逐一验证如此庞大的目标数量是极其困难的。如果人类不够谨慎的话，就可能盲目相信AI给出的答案，据此发出攻击的指令。

责任所在

当AI攻击了错误的目标时，究竟应该由谁承担责任？由军队、指挥官、还是AI开发企业来承担存在模糊性。

缺乏必要的背景信息

在判断是敌人还是朋友时，需要参考历史与文化背景以及当地社区的实情。然而，目前AI还没有这种本领。例如，AI是根据其是否预先满足特定条件来判断对象是敌人，还是朋友。当人们夜间行动、集体行动或者驾驶车辆行动等特定情况时，只要满足这些条件AI系统就会立即判定对方为敌人。当人类指挥官对此作出判断时，首先会考虑地区的具体特征。如果这些地区存在夜间以互助精神聚集在一起，在战争期间实行物资交换或物品流通等传统习俗，那么，指挥官很可能会认定这个群体“并非威胁”、“非敌对势力”。然而，目前的AI还无法做出如此准确的判断，因此，它很可能会出现错误判断。

战场的非人格化

由于仅仅以图标来表现AI显示屏中的人类或者部队，这些图标很容易被视为“需要处理的数据”。因此，有可能导致战场出现“非人格化”的风险。

AI以无法预测的形式出现“差错”

关于自主型武器（Self-regulating weapons）联合国已经持续争论了超过十年。然而，目前战场上实际应用的AI决策支持系统却从未正式讨论过。今年6月，在瑞士日内瓦的联合国总部举行了关于军事AI应用的非正式磋商会议，会上重点讨论了AI决策支持系统。除各国政府代表外，还有国际组织、AI开发企业、研究人员及民间团体均享有自由发言的权利。会议本身并未向媒体公开，但是，在内部活动上我们目睹了讨论的全过程。被称为“国际法守护者”的红十字国际委员会（ICRC）专家也参与了讨论，并阐述了问题的核心所在。

国际红十字委员会（ICRC）法律顾问海德·坎德尔表示：我们“并非质疑AI是否能够更快地做出判断，而是人类是否真的具备国际人道法所要求的判断能力？抑或对AI提出的建议不加批判，盲目附和？”。也就是人类与AI犯错的差异…….。海德·坎德尔表示：“AI与人类的犯错截然不同，人类会因为疲劳或情绪波动而犯错，AI则以无法预测、也无法防备的方式犯错。”ICRC已汇总了开发和应用AI决策支持系统的16项建议，正在与各国进行磋商。其中还包括 AI 模拟所展示的危险。ICRC法律顾问乔治亚·海因斯表示：“我们明确劝告绝不能将AI决策支持系统应用于核武器的指挥控制，因为存在意料以外等重大风险。”

联合国裁军事务部门负责人、副秘书长中满泉指出AI监管所面临的困难：“AI技术的发展速度实在太快了，如何对其进行有效管控的问题，相关讨论始终难以跟上其发展的步伐。仅军事专家参与讨论只会产生片面的观点。因此，我们希望聚集来自不同背景、拥有丰富专业知识的人士共同深入探讨。”。

对人类的“焦虑”感到担忧

曾经积极推动美国军队引进AI决策支持系统的汉杰克·沙纳汉前中将如今却突然转变立场，对AI在军事的应用发出了警告。汉杰克·沙纳汉前中将表示：“过去我一直认为“（美国）政府引进AI的速度过于缓慢”，但是，现在我的立场已转变为“必须谨慎对待AI技术”。最新的AI技术过于强大，若将其应用于军事就需要采取更为审慎的态度。”。特别最令人担忧的是人类自身的“焦虑”。

杰克·沙纳汉前中将认为：由于AI发现目标的速度过于迅速，指挥官难免会担心因此产生“必须尽快批准”的压力？不过，无论AI发展到何种程度，其核心始终必须“受到人类的控制”。像安索罗皮克那样的AI开发公司也明确表示：“我们无法确信这些AI模型是否足够成熟，能够应用于自主武器系统。”。既然开发公司都持这种态度，人们的担忧就更加深了。那么，我们真的理解AI模型的局限性吗？

加快将《黑盒子》投入战场

处理海量信息，既不受情绪影响，也不受体力消耗的影响。AI正是以这种效果投入战场的。在模拟过程中这种行为逐渐呈现出更强的暴力倾向，也表明人们应当毫不犹豫地选择核武器的应用。AI应当在战场上如何应用？它的攻击手段在“速度”和“准确性”究竟扩大还是缩小范围？又将如何改变战争的本质与形态？在这些问题上，没有任何人能够给出明确的答案。然而，当今的世界却在竞相推动AI在军事的应用。