AI已经在真实战场上做出杀伤决策了。

不是科幻电影，不是沙盒演练——就在你刷手机的此刻，AI系统正在帮助某些国家识别目标、规划打击路线。而所谓"人类在回路中（humans in the loop）"的监管承诺，正在变成一个越来越难自圆其说的谎言。

**那个让我们集体安心的说法，正在露出破绽**

过去几年，每当有人担忧AI在军事领域失控，官方的标准答案都是同一套：放心，人类全程把关，AI只是辅助工具，最终决策权永远在人手里。

听起来很稳。但认知科学家Uri Maoz在《MIT科技评论》的最新观点文章里直接戳破了这层遮羞布：问题根本不是"有没有人类监督"，而是那个坐在屏幕前的监督者，根本不知道AI在"想"什么。

这话值得细品。

想象一下这个场景：一个战场指挥官，面前屏幕上弹出AI给出的打击建议，推荐目标、置信度98.7%、预计附带损伤等级B。他有15秒做决定。

他会按下确认键吗？几乎肯定会。因为他没有能力在15秒内重新分析AI处理过的数千条情报，也无法真正理解那个98.7%是怎么算出来的。他的"把关"，本质上是给AI的决定盖了一个人类的橡皮图章。

这不叫监督，这叫责任转移游戏。

**AI已经深入战场，比你想象的更早**

事实已经不容回避。据MIT科技评论的系列报道，AI系统正在以下几个维度真实参与现代冲突：

一是情报分析与目标识别。传统情报分析需要人工处理海量图像、信号、通信数据，AI将这个过程压缩到秒级。速度上来了，但错误率的后果也被放大了。

二是法律与采购层面的正面交锋。Anthropic（Claude的母公司）与美国五角大楼之间的法律拉锯战正在进行，争议核心就是AI模型在军事场景下的使用边界。白宫一边把Anthropic列入黑名单，一边又在秘密谈判购买其最新模型——这种双重标准本身就说明问题有多复杂。

三是伊朗冲突中的实际部署。AI系统已经在实际地区冲突中扮演了不透明的角色，具体细节高度机密，但影响是实实在在的。

前美国国家安全局网络安全主任Rob Joyce说了一句很刺耳的话："现在到未来某个节点之间，有一段黑暗期，AI在进攻端的优势会极其显著。"换句话说，在防御体系跟上之前，掌握进攻性AI能力的一方拥有不对称优势——而这种窗口期正在发生，不是将来时。

**"人类把关"为什么在结构上就是幻觉**

这里有个认知科学上的核心问题，值得认真思考。

人类监督AI决策，前提是人类能够理解AI的推理过程。但当前主流的深度学习模型，包括用于军事目的的视觉识别、目标追踪模型，本质上是不可解释的黑盒。它在数十亿个参数上完成了某种模式匹配，给出一个输出，但没有人——包括训练它的工程师——能够完整追溯每一步推理链。

所以当监督者面对AI的输出时，他能做的选择其实只有两个：相信它，或者否决它。而否决它需要有替代性的判断依据——在信息不对称、时间紧迫的战场环境下，这个替代判断从哪里来？

更糟的是，人类有一种天然的"自动化偏见"（automation bias）：当一个系统看起来很专业、给出的数字很精确，我们倾向于降低批判性思维，顺着它走。这是心理学的基本结论，不是道德问题，是大脑的节能模式。

把这三个因素叠加在一起——黑盒推理、时间压力、自动化偏见——所谓的"人类把关"就变成了一个程序上的摆设。

**科学或许有出路，但时间窗口正在关闭**

Maoz的文章并非只是批评，他也提出了一个方向：可解释AI（XAI）。简单说，就是让AI不仅给出结论，还能给出可供人类核查的推理路径。

这个技术方向是真实存在的，部分研究机构和企业已经在推进。但问题在于速度差异：进攻性AI的部署速度，远超可解释性技术的成熟速度。Rob Joyce说的那段"黑暗期"，指的正是这个空档期。

这不是技术能力的问题，是政策、采购、国际规范之间协调失灵的问题。军备竞赛的逻辑是：你用，我也得用，否则就落后。没有任何一个国家愿意单方面降速等"可解释AI"成熟。

**普通人该怎么理解这件事**

你可能觉得这事离自己很远。但有几个传导路径是真实的：

第一，AI军事技术会快速民用化。无人机追踪、人脸识别、行为预测——这些已经在发生。今天战场上的技术，五年后可能在你城市的摄像头里运行。

第二，这场辩论正在重塑AI监管的全球格局。欧盟的AI法案、美国的行政令、中国的算法管理条例，背后都有军事应用场景的影子。监管框架怎么定，会影响所有AI产品的研发方向。

第三，"人类把关"这个逻辑，正在被复制到更多非军事场景：医疗AI诊断、司法AI量刑建议、金融AI风控。同样的结构性问题——人类真的能有效监督吗——同样值得追问。

**最后说一句**

我们喜欢用"人类把关"来平息焦虑，因为它既保留了技术进步的好处，又给了我们一个道德上的安全出口。但真正的安全感，从来不是来自于有人坐在那里按按钮——而是来自于我们真正理解按下去的那个决定意味着什么。

当我们连AI在想什么都不知道的时候，所谓"人类在回路中"，不过是一种集体自我安慰。

---