【小说欣赏】喂,你的AI会杀人

沈鹿鸣在凌晨三点接到那条语音时，以为是诈骗。

“沈工，你的AI诊断系统，昨晚在县医院杀了一个人。”

他坐起来，打开电脑。日志显示，凌晨两点十七分，系统把一位心梗患者的症状标注为“低风险”，建议回家观察。四十分钟后，患者死在急诊走廊的长椅上。

沈鹿鸣盯着那行代码。那是他半年前亲手写的。当时他觉得自己在造电灯，照亮医疗的暗角。现在他才知道，他造的可能是电椅。

沈鹿鸣今年二十九岁。十六岁上少年班，二十二岁博士毕业，二十四岁创立了“岐黄科技”，做AI辅助诊断。他出身甘肃农村，父亲是赤脚医生，母亲种地。他从小看着父亲背着药箱走三十里山路，给一个发烧的孩子看病。他学AI的第一天就想，如果有一个东西，能替父亲走那些山路，替那些请不起医生的穷人看病，那该多好。

他的公司估值涨得很快。投资人说，你这是AI医疗赛道最亮的星。但沈鹿鸣知道，他卖的不是星。他卖的是一套诊断系统，准确率百分之九十三。听起来很高，但剩下那百分之七，落在谁头上，谁就是百分之百。

那个死去的患者叫刘桂枝，六十七岁，退休纺织女工。她的女儿在微博上写：我妈死在一台机器手里。那条微博转了十万次。

沈鹿鸣被推到了风暴中心。记者围堵，投资人撤资，合伙人跑路。一夜之间，他从“AI医疗新贵”变成了“杀人机器的制造者”。

最让他心寒的，是那些曾经围着他转的人。有个师兄，当年靠沈鹿鸣借他的二十万付了首付，现在在朋友圈写：“早就说过，拿人命试错，迟早出事。”有个投资人，三个月前还夸他是“中国医疗AI的希望”，现在对媒体说：“我早就不看好他的商业模式。”

沈鹿鸣想起了父亲临终前说的话。父亲说：“鹿鸣啊，你记住，无权而多财，容易被贪财之人陷害；势弱而早慧，容易被邪恶之人使坏。你从小就是村里最聪明的孩子，但你太干净了。干净的人，容易被人当刀使。”

他那时候不懂。现在他懂了。

他去找那个投资人。投资人正在办公室和人谈新项目。沈鹿鸣站在门口，听见里面的人说：“那个沈鹿鸣啊，就是个技术宅，什么都不懂。我们当初投他，就是看中他的技术，人嘛，用完就扔。”

沈鹿鸣没有进去。他转身走了。

那天晚上，他一个人坐在空荡荡的办公室里。屏幕上还开着那套诊断系统的代码。他一行一行地看，像一个父亲在检查自己孩子的作业。他忽然发现，问题不在算法。算法没有错。问题在于，算法被用错了地方。县医院没有足够的医生复核AI的诊断，没有能力配备急救团队，没有建立异常预警机制。他们把AI当成了万能的电灯，却不知道电灯需要电网，电网需要电厂，电厂需要整个基建体系。

这才是真正的“杀人”。不是AI杀了人。是人的贪婪和懒惰，杀了人。

沈鹿鸣做了一个决定。他关掉了公司。把代码全部开源。然后他去了县医院，做了一名编外技术员。他不要工资，只要一个条件：让他重新设计整个诊断流程——不是从AI开始，而是从人开始。

他花了三个月，把AI从“诊断者”变成了“提醒者”。它不再下诊断，只做一件事：当它发现任何异常，就会发出尖锐的警报，然后强制要求人类医生复核。它不再是电灯。它变成了电网。

一年后，刘桂枝的女儿找到了他。她说，她本来想告他。但后来她看了开源代码，看了他做的事，她改主意了。她问他：“你为什么这么做？”

沈鹿鸣说：“因为我发现，AI发展分三个阶段。第一个阶段，是用AI把旧事干得更快。第二个阶段，是建设AI的基础设施。第三个阶段，是用AI重新想象整个世界。我当时跳过了第二个阶段，直接去做第三个阶段的事。结果就是，我在沙子上盖楼。”

他停了一下，说：“我们这一代做AI的人，大多数人还在第一阶段卷谁用得更熟。少数人在第二阶段占位。真正敢想第三阶段的人，凤毛麟角。但第三阶段还没来。它还有三到五年。这三到五年，是留给那些愿意先建地基的人的。”

刘桂枝的女儿沉默了很久。然后她说：“我妈的事，不怪你。怪那些把电灯当太阳的人。”

沈鹿鸣说：“也怪我。我当时以为，技术能救人。现在我知道，技术不能救人。人才能救人。技术只是工具。”

后来，沈鹿鸣在县医院建了一个团队。他不叫它“岐黄科技”了。他叫它“电网”。他们做的事很简单：把AI变成基础设施，让它像自来水一样，拧开就有，但从来不抢医生的活。

有人问他：“你放弃了那么多钱，后悔吗？”

沈鹿鸣说：“我小时候，我爸跟我说，德厚而品优，容易被无良之人刁难。但反过来，德厚到别人刁难不动的时候，它就成了一种光。我不想做那个被刁难的人。我想做那个光。”

那天夜里，他给父亲烧了一炷香。香很轻，轻到一阵风就能吹散。但烟很直，直直地升上去，像一根通往天空的电线。

他想，父亲应该看见了。

电灯会灭。电网不会。因为电网里有人的温度。

而他，就是那个送电的人。

作者| 沙   柳

选稿 | 沙   柳

编辑 | 一   尘

第二场文化传播有限公司

上海城市诗人社·第二场诗歌社

第二场诗歌社

专注于推广诗歌的创作与朗诵活动，开启诗歌爱好者互动交流的窗口，
构建”诗歌命运共同体“的完美意境