ARTICLE · 1040788
当AI主导战场:人类还有未来吗?
当AI主导战场：
人类还有未来吗？
从「二十秒盖章」到「一切合法用途」，一场关于否决权的争夺，正在决定未来战争里「人」还剩多少分量。
01一个数字：二十秒
2024年4月，以色列左翼媒体《+972杂志》与希伯来语媒体 Local Call 联合刊发调查，揭开了以军一套代号 Lavender（薰衣草） 的AI目标生成系统。
据六名以色列情报官员描述，这套系统为加沙地带的居民打出1到100的「疑似武装人员」评分，在此基础上生成了一份多达 3.7万人 的目标清单，已知错误率约 10%。
真正让这份报道震动世界的，是另一个细节。
一名使用过该系统的情报官员自述，他给每个目标大约 20秒 的审核时间，一天处理几十个，判断的内容基本只有一项——确认对方是不是男性。他的原话是：
「作为一个人，我的附加价值是零，除了当一个批准印章。它省了很多时间。」
（以军随后回应称，Lavender 并非「AI系统」，而只是用于交叉比对情报源的「数据库」，并强调分析员必须进行独立核查，以确认目标符合国际法及相关指令的定义。）
我不想在这里讨论那场战争的是非。但这个「20秒」，值得所有关心技术的人记住。
因为它在技术上完全合规：人确实在回路里，每一个目标都经过了人手。
可20秒能做什么？能确认性别，不能确认身份；能按下按钮，不能完成思考。
技术上，人在回路中。功能上，人是橡皮图章。
02三种「人在回路」，只有一种是真的
军事AI领域有个被反复引用的术语：human in the loop，人类在环内。它是几乎所有国家安抚公众的标准话术——「别担心，最终决定权在人手里」。
但这个短语的含义，比它听起来宽得多。
美国国防部指令 DoDD 3000.09《武器系统中的自主性》（现行版本2023年1月25日签发）给出了三层区分：
人在环内 in the loop系统只打击由人选定的单个或特定目标群——每个目标都经人授权。
人在环上 on the loop人可监视并在必要时中止交战——人盯着，能踩刹车。
人在环外 out of the loop一经激活即可自主选择并打击目标——人不在决策链中。
这份指令要求：所有自主和半自主武器系统，都必须被设计成「允许指挥官和操作员在使用武力时行使适当水平的人类判断」。
问题就出在这三个字上——「适当的」。
什么是适当？20秒算不算适当？按下一个已经排好序的清单上的「同意」键算不算适当？
美国国防部的官方解释是：这不必然意味着每次交战都要人工实时批准，而是指人在系统全生命周期中的参与——设计阶段的决策、部署前的法律与政策审查、指挥官设定交战规则与任务参数。
这个解释本身是专业的、负责任的。但它留下了一道巨大的缝隙：当「人类判断」被前移到设计和参数设定环节，留给现场操作员的，就只剩下一个按钮。
而按钮，是很难拒绝的。
03橡皮图章是怎么炼成的
为什么一个受过训练的人，会心甘情愿地在20秒内按下「同意」？
这不是愚蠢，也不是冷漠。这是人机交互领域被反复验证过的系统性陷阱，至少有四道力在同时推着他：
第一，自动化偏见。人天然倾向于相信机器比自己更少犯错，尤其在信息过载时。当系统给出的是「87分」这样精确的数字，人的默认反应不是质疑，而是参考。
第二，时间压力。AI被引入战场的核心卖点就是「快」。杀伤链被压缩到分钟级，人的审核窗口随之坍缩。当流程设计只允许你用20秒，审核就成了形式。
第三，责任稀释。人人都觉得「这是系统算出来的」，于是没人觉得自己是最终责任人。责任一旦分散，审慎就失去了支点。
第四，界面设计。如果系统只呈现结论，而不呈现推理链条、置信度、证据来源和替代假设，那么操作员的所谓核查，在物理上就不可能发生。
四道力叠加，结果就是：
人类保留了对每一个目标说「是」的能力，却几乎丧失了说「不」的能力。
说「是」不需要理由，说「不」需要。而一个没有理由的「不」，在战时节奏里会被视为怯懦、低效、拖后腿。
这就是为什么，我们真正该追问的不是「有没有人在回路里」，而是——回路里的那个人，能不能真的否决？
042026年那场官司：一家AI公司替「人类否决权」说了不
今年，这件事以一种出人意料的方式，被摆上了法庭。
2025年7月 五角大楼首席数字与人工智能办公室（CDAO）向 Anthropic、Google、OpenAI、xAI 各授予上限2亿美元合同。Anthropic 成为首个被批准在涉密网络中运行前沿模型的AI公司。
2025年秋—2026年初 五角大楼推动重谈合同，要求把使用范围改为「一切合法用途」（any lawful use）。这一措辞看似中性，实质是把用途裁量权完整收归买方。
多数AI公司签了。Anthropic 没签。它坚持两条红线：不用于大规模监控美国公民，不用于全自主武器系统。
2026年2月26日 Anthropic CEO 达里奥·阿莫迪发表声明，称公司「无法昧着良心」接受五角大楼要求。
2月27日 特朗普下令所有联邦机构立即停用 Anthropic 技术；国防部长赫格塞思宣布将其认定为「供应链风险」——这一认定本用于防范外国敌对势力渗透，此前从未被用于一家美国公司。
阿莫迪给出的拒绝理由，是纯粹的技术判断：
「自主武器系统可能对我们的国防至关重要。但今天的前沿AI系统，还远远不够可靠，不足以驱动全自主武器。」
赫格塞思则在 X 上写下另一句话：「美国战士永远不会被人科技的意识形态奇想所绑架。」
3月9日，Anthropic 在加州北区联邦地区法院和哥伦比亚特区巡回上诉法院分别提起诉讼；3月底，法官 Rita Lin 颁布初步禁令，暂停执行该认定。
8月27日，Lin 法官作出59页判决，正式撤销该认定，判定其构成「违反第一修正案的非法报复」，且「专断而反复无常」。判决书里有一句话被广泛引用：
「空洞地援引国家安全，不是一张可以随意惩罚和报复政府批评者的空白支票。」
截至目前，华盛顿特区巡回上诉法院的另一案仍未宣判，政府方面预计将提起上诉。而五角大楼此前表示，仍在推进替换工作，计划于 9月30日 前完成过渡。
这场官司的看点，不在于谁赢。
在于它把那个一直含混不清的问题逼到了台面上：
当「人必须在环内」不再是一条技术共识，而变成一条可以被采购条款删掉的商业条款时，谁来守这道门？
一家公司守了一次。然后被贴上了「供应链风险」的标签。
05真正的刹车，应该装在哪儿
回到开头那个问题：人类还剩多少秒说不？答案不应该靠运气。要让「说不」真正可操作，至少得把这几样东西装上去：
一、把置信度和证据一起呈现。只给结论的AI，是在剥夺人核查的可能性。系统必须同时输出：结论、置信度区间、关键证据来源、主要反证，以及「如果判断错了会怎样」。没有这些，审核就是仪式。
二、把「反自动化偏见」写进训练。操作员需要被反复训练一件事：默认怀疑AI，而不是默认相信它。更有效的做法是「诱导错误」演练——在训练中故意注入AI误判，让操作员体验一次「信了就出事」。
三、对高风险结论设置强制交叉验证。一份将触发使用武力的情报，必须有独立于AI的第二来源佐证。这是最朴素、也是最容易被「提速」牺牲掉的一条。
四、给「否决」提供制度保护。如果提出质疑被视为延误战机、影响晋升，那么否决权在事实上就不存在。说「不」必须不担责，还应该被记录、被复盘、被奖励。
五、保留可追溯日志。每一次AI建议、每一次人工裁定、每一次否决，都要留痕。没有追溯，就没有问责；没有问责，审慎就是空话。
六、采购合同里保住红线。Anthropic 案揭示的真相是：当供应商的使用条款被「一切合法用途」覆盖，最后一道商业约束也就消失了。红线必须写进合同，且不能因交付压力而让渡。
06结语：那几秒是文明的最后一道防线
我们习惯把「人在回路」当成一份保险。但保险的效力，从来不取决于条款写了什么，而取决于理赔时能不能真的兑现。
AI进入战场的大方向，恐怕不会逆转。它确实能处理人力无法处理的海量情报，确实能压缩决策时间，也确实——在某些环节上——比疲惫、恐惧、愤怒中的人类更稳定。
但有一个东西，AI给不了：它不会为错误感到痛苦，也不会为死亡承担责任。
恰恰是这种「会痛苦、要负责」的能力，构成了战争中最后的人道防线。国际人道法中的区分原则、比例原则、预防措施原则，全部建立在一个假设之上：有一个人，在某个时刻，能够停下来想一下，然后说「不」。
那一下停顿，那几秒钟，不是效率的敌人。它是文明留在战场上的最后一道防线。
我们该做的，不是让它消失，而是确保它永远还有地方可以按下。
所以，人类还有没有未来？
答案不在AI有多聪明，而在那个说「不」的按钮还在不在。
主要事实来源：· +972 Magazine 与 Local Call（2024年4月）关于 Lavender 系统的调查· 美国国防部指令 DoDD 3000.09《武器系统中的自主性》（2023年1月25日版）· 美国国会研究服务处报告 IN12669（2026年3月13日）· 加州北区联邦地区法院 Anthropic v. US Department of War 案（26-cv-01996）相关裁决与报道文中引述均为各方公开表述。