夜雨聆风
作者：浦旻
愿铸剑为犁，愿和平降临。
不久前，Pope利奥十四发表关于《崇高人性》的谕令。其中有一句措辞严厉的告诫：永远不要让机器决定人的生死。
现在的环境是，无人机与AI打击系统正在越来越多的冲突中频繁亮相。这位七十老翁的声音在此AI时代显得有些微弱，但或许引发一些反思：当战争慢慢开始由算法触发时，人性的良知还跟得上吗？
不要以为大惊小怪，越来越多官员习惯用AI查资料，并不加分辨接受答案。趋势已经明显。
一，AI战争已经是现实
AI战争并不神秘。简单说，就是把大量智能算法塞进情报分析、指挥决策甚至武器的扳机里。其中最典型也最让人不安的，就是那些越来越“自主”的无人机。
早期的无人机需要人在几千公里外握着操纵杆，一帧一帧盯着屏幕。看似打游戏，毕竟是由人来决定是否开火。但现在的型号，装了计算机视觉和自动识别模块，即便与后方失去联系，也能自己搜索、锁定、攻击目标。所谓“发射后不管”。根据已公开的战场记录，AI系统曾在几分钟内处理完过去几周才能完成的情报，批量生成打击目标清单，甚至出现了可以跟踪特定面孔、穿行于闹市的“猎杀型”小型无人机。
战争正在从“人与人对峙”变成“算法与数据博弈”。这种变化的速度，比我们想象的要快。
科技在推动文明的进步，还是加大杀戮？这是个严肃的问题。
二，危险：战争变得便宜而随意
如果你问一个普通人：打仗最可怕的是什么？多半会回答：会死人，会失去亲人。正是这种对血肉代价的恐惧，在几千年来牢牢制约着帝王臣宰。而AI技术危险的后果，恰恰是把“流血”从决策者的账本上悄悄划掉。
设想一下：过去要发动一场打击，需要派飞行员冒生命危险，需要承担士兵阵亡后家属的愤怒与哭泣，需要面对国内舆论的压力。但现在，你可以派几十几百架廉价的AI无人机，编成一群，告诉它们“飞到那片区域，看到像坦克的东西就炸”。打完折损的只是金属和芯片，没有人会捧着遗像上街游行。
更不要说，越来越多战争机器狗，机器人的出现。精准，冷酷与数量庞大。
这样一来，发动战争的心理门槛就被压到了地板以下。未来的冲突可能不再需要国会辩论、全民动员，几个操作员在一个集装箱里点几下鼠标就够了。
更可怕的是，由于无人机成本极低、数量庞大，冲突范围可以无限扩展——今天炸军事据点，明天可能算法把一座变电站判定为“对敌方通信有贡献”，后天数据中心就成了合法目标。
战争一旦开启，它的升级速度很可能超过人类高层的反应极限。 到了那个地步，不是人在指挥战争，而是战争拖着人跑。
三，需要不可退让的底线
面对这种趋势，需要基于朴素的人道与常识，划出三条清醒的底线。
底线一：生命不能被简化成数据坐标
任何一个心智正常的人都会承认：战场上即便要动武，也应尽可能避开老人、妇女、儿童和放下枪的伤员。这不是什么高深的理论，而是人类文明的底线。
但在算法的世界里，没有“怜悯”这个函数。一个目标在AI眼中只是一组激光雷达的点云、一个红外热源、一个与武器库相似度的特征。它不会犹豫，不会心软，也不会在某个孩子的书包被误判为炸药之后感到任何悔恨。把生死的最后裁决交给一段没有情感的代码，就像让一台计算器决定谁有资格活着——荒谬且危险。
底线二：责任不能外包给机器
若踩了别人的脚，就得道歉。开车闯了红灯，得交罚款。同样，做了一个错误的军事决定，造成了平民死伤，得上法庭。比如，马岛战争失败后，阿根廷总统加尔铁里被告上军事法庭。不伤及无辜，是军人的基本责任。
然而，一旦致命打击由AI自主完成，或者由AI“推荐”了某个目标，这条链条就会彻底断裂。谁负责？写算法的工程师？他写的是逻辑，不是意图。发出“启用自主模式”的指挥官？他可能连目标具体是谁都不知道。机器本身？你没法起诉一台无人机。
AI战争的本质，就是人类在试图制造一种“无需承担后果的暴力”——这比暴力本身更可怕，因为它会无限纵容暴力的滥用。
底线三：技术的最高价值是和平
造出锄头是为了种地，造出桥梁是为了过河，造出计算器是为了算账。所有真正伟大的技术，最终都应该让人的日子过得更好，而不是让杀人变得更简单。
AI当然可以用于战争预警——比如分析海量社交网络数据，提前两周发现种族冲突的苗头；也可以用于优化人道主义援助路线，让救灾粮更快送到灾民手里；甚至可以用在战后重建时，快速评估基础设施损毁情况。这些才是技术的正途。如果全世界的顶级算法人才都在琢磨怎么让无人机更精准地穿透一堵墙、更高效地收割生命，那不是技术的胜利，是文明的失败。
四，给算法套上缰绳，让人始终做决定
以上三条底线，不是空洞的道德宣誓，应该转化为具体的制度约束。
首先，需要明确一条红线：任何致命打击，都要保留余地。当看到目标的实时影像（如果技术条件允许），有暂停或中止打击的明确按钮，并且对每一次打击负责。这不是为了效率，而是为了保留“对生命的敬畏”这个最后的心理制动装置。
其次，国际社会应当像对待化学武器、生物武器一样，尽快推动对“完全自主的致命性武器”的禁止性条约。哪怕大国一时无法达成共识，中小组国家之间的先行协议也能形成事实压力。拖延越久，技术越成熟，既得利益越深，谈判就越难。
最后，每一个普通人都可以追问一句：我们在学校教孩子“不能随意欺负弱小”，却在无人机的代码里偷偷抹掉了怜悯——这难道不是一种集体性的虚伪？
启9：16提到“马军有两万万”，就是两亿。如果是古代骑兵，任何帝国都负担不起。但如果是AI无人机呢？
现在乌克兰战场使用的远程无人机，几千到几万美元。近程的最便宜只要三百美元。都比战机便宜太多。以后这类无人机肯定会越来越先进，也越来越便宜。假定一千美元吧，两亿就是两千亿美元。一些军事联盟还是负担得起的。更不要说美军了，美国如今每年军费是一万多亿美元。
所以，深深盼望能世界和平，铸剑为犁。
从Pope利奥十四的告诫到今天，AI武器的迭代已经又跑过了几个版本。他没有改变战争的本质，但他提醒了一件事：技术越强大，我们越需要清醒地知道自己是谁，有什么底线不能破。算法可以无穷快，但良知必须始终比手指更快一步。
战争从来不是因机器而起，也不会因机器而终。
最终要回答的，是人心的问题。
最后接受审判的，不是AI，而是人。
