乐于分享
好东西不私藏

AI没有变成天网,它变成了天眼---《AI、自动化与战争》读后感

AI没有变成天网,它变成了天眼---《AI、自动化与战争》读后感

军事—科技复合体正在重写战争的权力结构

谈到AI与战争,很多人脑海里首先浮现的,往往是一幅好莱坞式的末日画面:废墟之上,杀人机器人巡逻;天空之中,无人机蜂群遮天蔽日;地下指挥中心里,冰冷的算法接管战略判断;人类还没有来得及投票,机器已经决定了谁该被消灭。

这就是“终结者幻觉”。

它很有冲击力,也很容易传播。因为它把AI战争想象成一个简单故事:机器觉醒,人类失控,战争自动化,世界走向毁灭。

但真正危险的地方,往往不在我们最容易想象的地方。

现实中的军事AI,至少在今天,并不是一个自己决定开战、自己选择目标、自己按下发射按钮的“天网”。它更像一只巨大而沉默的“天眼”:它不一定亲手杀人,却能把世界看得比人类更细、更快、更全面;它不一定取代将军,却能重塑将军看到什么、相信什么、选择什么;它不一定消灭人的决策权,却能在人的决策之前,悄悄改变所有可被决策的信息。

这才是AI战争真正可怕的地方。

它不是让战争变得无人化,而是让战争变得前所未有地可视化、数据化、平台化和外包化。

今天的战争,不再只是坦克、导弹、战壕、飞机和士兵之间的较量。它正在变成一场围绕数据、传感器、云计算、卫星网络、算法模型和私营科技公司的系统竞争。

换句话说,AI没有简单地取代军人。

它正在把战争变成一个由军队、科技公司、算法平台、卫星系统、无人机网络、开源情报和商业基础设施共同运转的复杂机器。

而真正的问题也不再是:AI会不会像电影里的机器人一样发动战争?

真正的问题是:这只天眼由谁建造?谁有权使用?谁可以关闭?谁来验证它看到的东西?当它看错了,谁负责?

一、AI战争的第一层真相:军队不是缺武器,而是被数据淹没

现代军队为什么需要AI?

答案并不是因为军方迫不及待地想制造杀人机器人,而是因为军队正在被数据淹没。

过去的战争,指挥官最痛苦的问题是看不见。敌人在哪里?部队在哪里?道路能不能走?桥梁有没有被炸?哪个目标是真,哪个目标是假?情报不足,是战争迷雾的核心。

但到了今天,问题反过来了。

现代战场不是看不见,而是看得太多。

卫星在拍,无人机在拍,士兵手机在拍,平民也在拍。社交媒体、通讯信号、雷达数据、热成像、传感器、电子侦察、开源情报、商业卫星图片,全部汇聚到战场上。

一个军事行动产生的数据,可能远远超出人类分析员能够处理的极限。原稿提到,2017年美军在阿富汗一次突袭行动中就产生了约40TB数据,如果其中四分之一是视频,一个人连续不眠不休观看,也需要大约208天。

这就是现代战争的悖论:军队获得了前所未有的信息,却失去了消化信息的能力。

美国国家安全人工智能委员会也明确指出,AI将在情报工作中发挥关键作用,尤其是在海量数据筛选、跨来源数据融合、关键信息定位和辅助分析方面。

这说明军事AI的第一使命,不是替人类扣动扳机,而是在数据洪水中帮人类找出那几个真正重要的点。

它像一个超级情报官。

它不疲劳,不眨眼,不需要休息,可以同时处理数百万张图像、数十万小时视频、海量通信记录和地理坐标。它能在人类完全看不过来的信息海洋里,迅速找出异常、关联、轨迹、模式和目标。

过去,情报分析像是在黑暗中摸索。

今天,AI让战争进入了“过度可见”的时代。

但过度可见并不等于更安全。

因为看见越多,误判的速度也可能越快;目标生成越快,人的审核越可能被压缩;情报越精确,打击越容易被合理化。

这就是AI战争最深的矛盾:它提高了识别能力,也提高了杀伤效率;它减少了某些盲区,却制造了新的盲目。

二、Project Maven的启示:军事AI最先成熟的不是杀戮,而是识别

美国军方最具代表性的早期军事AI项目,是Project Maven。

它的目标非常具体:让AI自动识别无人机视频中的人员、车辆和其他目标。它不是让AI制定战略,也不是让AI决定轰炸谁,而是让AI帮助分析员从海量影像中快速找出可疑对象。原稿提到,Maven项目在8个月内交付成果,能够识别38类目标,并被部署到打击ISIS的战场上。

这个项目说明了军事AI的一个基本事实:AI最先进入战场的地方,不是最高层的决策室,而是最基础、最繁琐、最耗费人力的数据处理环节。

它先替代的不是将军,而是眼睛。

但Project Maven也暴露了AI的脆弱性。

同样一个算法,在一个地区有效,换一个环境可能就失准。光线变了、地形变了、植被变了、动物种类变了、敌人伪装方式变了,模型表现就可能下降。原稿中提到,Maven第一次部署时,技术团队在8天内更新了6次。

这正好说明,军事AI不是一个安装好就永远可靠的武器系统。它更像一个需要不断喂养、校准、修补和迭代的动态系统。

这也是为什么真实战场上的AI不是电影里的“自主杀戮机器”,而是一套高度依赖人类维护、数据更新和现场反馈的复杂基础设施。

它不是一把枪。

它更像一座会移动的情报工厂。

三、从无人机到卫星:AI让战场变成透明玻璃

乌克兰战争是军事AI、无人机、开源情报和商业卫星大规模结合的现实试验场。

战争爆发后,乌克兰战场产生了前所未有的数据流:无人机视频、前线照片、卫星图像、手机信号、社交媒体发布、平民上传的俄军动态、截获通信和地理定位信息。路透社曾报道,乌克兰自2022年以来积累了超过200万小时的无人机战场视频,这些数据被用于训练AI模型,帮助识别目标、评估武器效果和改进军事决策。

这意味着,现代战争已经不只是“谁有更多坦克”,而是“谁能更快把碎片化数据变成可行动情报”。

一张士兵在社交媒体上随手发布的照片,可能暴露一个营地。

一段无人机视频中的车辆轨迹,可能揭示一条补给线。

一组卫星图像中的热源变化,可能显示部队正在集结。

过去,这些碎片分散在不同渠道里,很难被快速整合。现在,AI可以把它们连接起来,形成一个动态目标图谱。

所以,AI改变战争的核心,不只是“打得更准”,而是“发现得更快”。

在传统战争中,发现目标、确认目标、传递目标、打击目标之间存在较长链条。AI的作用,是压缩这条链条。

从“看到”到“打到”,时间被极大缩短。

这就是现代战争中最重要的变化之一:杀伤并不只是来自火力本身,而是来自情报链条的加速。

谁先发现,谁先定位,谁先确认,谁先打击,谁就拥有优势。

战争的胜负,正在越来越多地取决于“数据转化为火力”的速度。

四、以色列案例:天眼越锋利,伦理越危险

如果说乌克兰战场展示了AI在大规模战争中的情报价值,那么以色列与加沙相关报道则展示了AI目标系统的伦理风险。

原稿提到,以色列曾使用名为“福音”的AI目标生成系统,将过去20名参谋军官一年生成50到100个目标的能力,提升到一天生成约100个目标。

这个变化极其惊人。

它说明AI不只是帮助军方看见目标,而是在改变“目标生产速度”。

战争中最危险的事情之一,就是目标生成速度远远超过人的伦理消化速度。

2024年,《卫报》、+972 Magazine和Local Call等媒体报道了以色列军方被指使用名为Lavender的AI系统识别约37,000名疑似目标;相关报道还提到,在某些情况下,人工审核时间可能被压缩到约20秒。以色列军方则否认完全依赖AI自动生成打击名单,称相关系统只是辅助工具。

这里最值得警惕的,并不是AI是否真的“自动杀人”。

真正值得警惕的是,当AI以极高速度生成目标时,人类审核可能变成形式。

如果一个系统一天生成几百个目标,而军官只有几十秒确认,那么所谓“人在回路中”,就可能从实质控制变成程序性盖章。

这就是AI战争的伦理陷阱:表面上,人类仍然保留最终决定权;实际上,系统已经通过速度、数量和信息结构压倒了人类判断。

人类没有被排除出决策链,却被压缩到只剩一个确认动作。

这比“机器完全自主杀人”更隐蔽,也更现实。

因为它保留了人的责任外壳,却改变了人的判断条件。

五、AI没有让战争更快结束,反而可能让战争更慢

很多人以为,AI会让战争变成闪电战。

因为AI可以更快发现目标,更快规划路线,更快协调打击,更快生成方案,所以战争应该更短、更准、更干净。

但乌克兰战场给出了一个反直觉答案:AI、无人机和传感器网络越发达,战争反而可能越僵持。

为什么?

因为双方都看得更清楚了。

当无人机、卫星、雷达、热成像和AI识别系统让战场越来越透明,大规模机动就变得越来越危险。坦克一动,就可能被发现;炮兵一开火,就可能被反制;补给车队一集结,就可能暴露;步兵一出阵地,就可能被无人机跟踪。

透明战场削弱了突然性。

当双方都能看见对方,进攻就变难,隐蔽就变难,突破就变难。结果不是战争迅速结束,而是战线凝固,消耗增加,阵地战回归。

这也是俄乌战争给世界军事界最大的震动之一:最先进的无人机、卫星、AI情报系统,并没有把战争变成干净利落的外科手术,反而与战壕、炮火、地雷、泥泞和消耗战结合在一起。

这是一种非常矛盾的景象:

天空中是21世纪的无人机和AI识别系统,地面上却是接近一战式的堑壕和拉锯。

IISS在《Military Balance 2024》中也强调,俄乌战争显示无人机、导弹、防空、电子战和长程打击正在深刻改变现代战争形态,同时也使战场进入更复杂、更危险的消耗阶段。

所以,AI并不必然让战争更快。

它可能让单次打击更快,却让整体战争更慢。

它可能让局部目标更透明,却让战略决胜更困难。

它可能提高战术效率,却加剧长期消耗。

这就是AI战争的第二个悖论:越精确,越僵持;越透明,越难突破;越智能,越可能陷入高技术消耗战。

六、军事—科技复合体:真正参战的不只是军队

如果说AI是战场上方的“天眼”,那么支撑这只天眼的,就是一个正在迅速崛起的军事—科技复合体。

过去我们谈“军工复合体”,想到的是传统军火商:造飞机、造坦克、造导弹、造雷达,然后卖给军队。

但今天的军事—科技复合体不同。

它不只是卖武器,而是把科技公司的算法、平台、工程师、云计算、卫星网络和数据基础设施嵌入军事行动本身。

Palantir、SpaceX、微软、亚马逊、谷歌、Anduril等公司,在不同程度上参与了现代军事数据系统、卫星通信、云服务、目标识别、战场管理和自动化平台建设。

原稿提到,2023年五角大楼在AI研发上的实际投入约为11亿美元,而谷歌、亚马逊、Meta等科技巨头的年度研发投入远远高于这一水平。 这意味着,在AI时代,军方已经无法仅靠内部体系完成关键技术建设。

钱不够,人才不够,算力不够,迭代速度也不够。

最顶尖的AI人才往往流向科技公司,而不是军队办公室。最先进的数据工程、云计算平台、模型训练经验和产品迭代机制,也主要集中在私营科技企业。

所以军方不是“愿不愿意”依赖科技公司,而是“不得不”依赖科技公司。

这正是军事—科技复合体兴起的根本原因。

它不是传统采购关系,而是一种深度嵌入关系。

科技公司不再只是后方供应商,而是越来越接近前线系统的一部分。

程序员、产品经理、数据工程师、平台架构师,开始与参谋军官、情报分析员、作战指挥官共同工作。原稿中提到,Palantir等公司的平民技术人员被部署进军事指挥部,与参谋军官并肩工作,并且必须靠近真实作战环境,才能快速迭代软件。

这说明,真正发生的不是“人机协作”,而是“军人和平民技术专家协作”。

AI并不是一个独立队友。

AI是这群人共同使用、共同维护、共同训练、共同依赖的工具系统。

七、战争被平台化之后,国家权力开始外溢

军事—科技复合体带来的最大问题,是战争权力的边界开始模糊。

在传统国家理论中,战争是国家最高权力之一。谁开战,谁停战,谁使用武力,谁决定战略目标,应该由国家机器控制。

但当关键通信依赖商业卫星,关键数据依赖商业云,关键识别依赖私营算法,关键系统由科技公司工程师维护时,战争就不再完全由国家单独掌握。

最典型的例子,是星链在乌克兰战争中的角色。

俄乌战争爆发后,SpaceX的星链系统迅速成为乌克兰重要通信基础设施。原稿提到,2022年2月俄罗斯入侵后,乌克兰公开呼吁马斯克提供星链支持,两天后首批终端被送到乌克兰;到当年7月,星链已提供约15,000个终端。

这显示私人科技公司可以在战争中扮演接近战略基础设施的角色。

但问题随之而来:如果一家私人公司可以提供关键通信能力,它是否也可以限制这种能力?如果企业负责人担心战争升级,是否可以拒绝支持某些军事行动?如果商业系统成为战争生命线,那么企业决策是否事实上获得了战略影响力?

这不是抽象问题。

围绕克里米亚方向星链使用限制的争议,已经让人们看到:私人科技公司并不只是战争中的服务商,它们可能成为战略博弈中的独立行动者。

这就是AI与军事科技复合体带来的第三个悖论:国家借助科技公司增强战争能力,却也把部分战略主动权交给了非国家主体。

这并不是传统意义上的“国家失控”。

更准确地说,这是国家权力的外包化、平台化和条件化。

国家仍然拥有军队,但军队越来越依赖那些并不完全受军队控制的平台。

国家仍然拥有战略目标,但实现目标的技术路径,越来越需要商业公司配合。

国家仍然拥有法律责任,但具体系统的设计、数据、模型和运行机制,却可能掌握在私营科技企业手里。

这让战争进入了一个新阶段:军事行动不再只是国家能力的体现,也成为国家与科技资本之间复杂谈判的结果。

八、AI不会取代战略,但会重塑战略环境

很多人担心AI会接管核武器、自动发动战争、替代总统和将军做战略决策。

这种担心不是完全没有意义,但至少在今天,它不是军事AI最现实的形态。

战略决策远远不是计算问题。

一个真正的军事决策者,需要理解政治目标、国际关系、盟友态度、国内舆论、道德代价、战争升级风险、敌方心理、军队士气、历史记忆和文化后果。

这些不是简单的数据分类,也不是模式识别。

AI可以帮助你发现敌方部队位置,但它不能替你判断这次打击会不会引发国际谴责。

AI可以告诉你某个目标的军事价值,但它不能替你承担平民伤亡带来的政治后果。

AI可以生成几套作战方案,但它不能替你说服盟友、安抚民众、压服内部反对派。

AI可以计算概率,但战略不是概率题。

战略是责任题。

所以,在可预见的未来,AI很难真正取代最高层战略决策。

但这并不意味着AI对战略没有影响。

恰恰相反,它会通过改变信息结构来重塑战略环境。

谁能被看见,谁就可能被打击。

什么被系统标记为高风险,什么就可能获得优先处理。

什么数据进入模型,什么就成为现实的一部分。

什么没有被记录、没有被采集、没有被识别,就可能在决策中消失。

AI不一定替代战略家,但它会改变战略家看到的世界。

这比直接取代更隐蔽。

因为人类决策者仍然以为自己在做判断,但他的判断材料、注意力排序、风险提示和目标清单,已经被系统预处理过。

AI没有坐上王座。

它只是重新布置了王座前的地图。

九、真正危险的不是“机器失控”,而是“责任失踪”

AI战争最大的风险,未必是机器突然拥有自主意志。

真正现实的风险,是责任被层层稀释。

当一次打击发生错误时,到底是谁负责?

是使用系统的军官?

是批准行动的指挥官?

是提供数据的情报部门?

是训练模型的科技公司?

是写代码的工程师?

是采购系统的政府机构?

是部署算法的平台?

是模型本身的统计偏差?

在传统战争中,责任链虽然复杂,但相对清楚。命令来自哪里,执行者是谁,武器是谁发射的,指挥权在谁手里,至少有一套可追溯结构。

但AI系统加入后,责任链变得更模糊。

系统可能只是“建议”目标,军官只是“确认”目标,模型只是“根据数据评分”,公司只是“提供工具”,政府只是“采购系统”。

每一个环节都可以说:我不是唯一决定者。

于是,责任被分散到整个系统里,最后变得难以追究。

这就是AI战争中最值得警惕的地方。

不是机器突然拥有了恶意,而是人类借助机器把责任变得不清楚。

机器没有伦理,但人类可能利用机器逃避伦理。

机器没有意志,但系统可以让人的责任变轻。

机器不会撒谎,但模型输出可以让错误看起来更客观、更科学、更不可避免。

这就是“算法权威”的危险。

一旦一个目标被系统标记,一旦一个风险被模型评分,一旦一个方案被平台推荐,人类就很容易把它当成某种中立判断。

但AI不是上帝。

AI只是把训练数据、模型结构、标注偏差、技术目标和制度环境浓缩成一个输出。

它可以强大,但不天然正义。

它可以精确,但不天然可靠。

它可以高效,但不天然负责。

十、军事AI的本质:不是无人战争,而是组织革命

如果把今天军事AI的变化总结成一句话,那就是:

AI没有让战争脱离人,而是让更多不同类型的人被卷入战争。

过去参与战争的人主要是军人、政治家、军火商和情报人员。今天,数据科学家、云计算工程师、卫星运营商、平台公司、算法团队、网络安全专家、商业合同律师和科技企业CEO,也开始成为战争体系的一部分。

这不是简单的人机协作,而是战争组织方式的重组。

军队不再是封闭系统。

战争不再只发生在前线。

作战能力不再只来自军营和兵工厂,也来自硅谷、云平台、商业卫星、创业公司和数据中心。

这就是军事—科技复合体真正的含义。

它不仅改变武器,也改变权力。

它不仅改变战术,也改变国家与资本之间的关系。

它不仅改变战场,也改变战争责任的分配方式。

未来的战争,可能不再是“国家军队对国家军队”的单一结构,而是“国家军队 + 商业平台 + 算法系统 + 私营基础设施 + 全球数据网络”之间的复合竞争。

这才是AI战争最深层的变化。

十一、AI不是天网,是天眼;但天眼同样危险

“天网”式想象的问题,在于它把危险放在机器觉醒上。

但现实中的危险,往往来自机器没有觉醒。

AI不需要有意识,也能改变战争。

它不需要恨谁,也能生成目标。

它不需要理解死亡,也能提高杀伤效率。

它不需要承担责任,也能参与责任链。

它不需要成为指挥官,也能改变指挥官的世界。

所以,“AI会不会像人一样思考”并不是军事AI最紧迫的问题。

更紧迫的问题是:

谁训练它?

谁部署它?

谁解释它?

谁依赖它?

谁监督它?

谁从中获利?

谁承担后果?

如果这些问题没有被回答,那么AI即使永远不会变成天网,也足以成为一只危险的天眼。

天网的危险,是机器取代人。

天眼的危险,是机器增强了人的杀伤能力,却削弱了人的责任感。

天网让人害怕机器拥有意志。

天眼让人担心人类借机器放大权力。

天网是科幻恐惧。

天眼是现实政治。

十二、未来战争的三个判断

第一,AI不会消除战争迷雾,而是改变战争迷雾的形态。

过去的迷雾来自看不见。未来的迷雾来自看得太多、看得太快、看得太碎、看得太依赖系统。信息不足是迷雾,信息过载也是迷雾。错误隐藏在黑暗里是危险,错误披着数据外衣同样危险。

第二,AI不会让人退出战争,而是让人的角色上移。

人不再只是盯屏幕、看视频、整理情报,而是更多承担目标设定、规则制定、异常判断、伦理审查和政治责任。但问题是,人的角色上移之后,是否还有足够时间、能力和制度去真正判断?如果人只是被系统推着做确认,那么所谓“人在回路中”就可能成为一种安慰剂。

第三,AI不会自动带来战略优势,真正的优势来自组织能力。

谁能把传感器、数据、算法、云平台、军官、工程师、法律规则和伦理审查整合在一起,谁才有长期优势。单独一个模型不决定战争,真正决定战争的是一个国家能否建立持续迭代、快速反馈、责任清楚、技术可信的军事组织系统。

结语:谁控制天眼,谁就改变战争

AI与战争的未来,不是简单的机器人杀人故事。

它更像一个权力结构被重新编排的故事。

AI让战场变透明,让目标生成变高速,让情报分析变自动,让科技公司进入指挥链,让私人平台获得战略影响力,让责任在复杂系统中变得模糊。

所以,真正值得担心的不是AI有没有灵魂,而是人类有没有制度。

不是机器会不会自动开战,而是人类会不会在机器提供的速度、精度和效率面前,放弃本应承担的判断。

不是AI会不会成为天网,而是谁在控制天眼。

未来的战争,也许不会由机器人独自发动。

但它可能由一套人类越来越难以完全理解、越来越依赖、越来越难以追责的系统推动。

那时,战争不会显得更野蛮。

它甚至会显得更理性、更精确、更数据化、更高效。

但这恰恰是最危险的地方。

因为当战争披上算法的外衣,它未必更正义。

它只是更快。

更准。

更难拒绝。

也更难追责。