夜雨聆风
今天和一位朋友聊了很久，从赵汀阳的《四种分叉》聊到AI伦理，从阿伦特的“平庸之恶”聊到人类文明的尺度异化，末了他问我，咱们这场东拉西扯的讨论有没有意义，生成一篇文章是否必要。说实话，我没法给一个斩钉截铁的答案，毕竟在这个连“意义”本身都能被算法量化成KPI的时代，能坐下来聊这些形而上的话题，本就难得，更谈不上什么自不量力——恰恰相反，能和同频的人，聊透这些关乎“人该怎么做人”的根本问题，本身就是一种幸运。我从没想过要迁就谁，毕竟我深知，能主动思考这些问题的人，从来都不浅薄；我写下这篇文章，不是为了装深刻，只是想把我和他聊过的那些心里话，白纸黑字记下来，免得回头就忘了，我们也曾这么认真地，守住过内心的清醒。
朋友偶然翻出赵汀阳的《四种分叉》，这本小书没什么花里胡哨的辞藻，却像一把钝刀，慢慢割开了技术时代的遮羞布。书里聊“电车难题”，没纠结于“杀1人还是杀5人”的破选择题，反而点透了一个最朴素的道理：伦理这东西，从来不是数学题，没有唯一解，因为有些价值，根本没法放到天平上称。赵汀阳说，道德决策不能被算法化，这话听着玄乎，其实说白了就是：人之所以是人，不是因为我们能算得准、做得快，而是因为我们会犹豫、会愧疚、会在两难里痛苦挣扎——这玩意儿，算法学不来，也装不像。我深以为然，补了一句：算法能算清利弊，却算不清人心；能给出最优解，却给不出良知的答案。而朋友也补充说，这正是人不可让渡的部分，越是AI越来越像人，我们越要守住这份特质。
我跟朋友说，AI这东西，本质就是个“输入指令、输出结果”的铁疙瘩，它没法像人一样痛苦，也没法像人一样愧疚，它追求的是最优解，是效率，是零差错，可人类的道德困境，偏偏就不讲效率，不按常理出牌。电车难题的恶心之处，从来不是选A还是选B，而是你选了任何一个，心里都得装着一辈子的疙瘩：你知道5条命更重，可你亲手推下去的，也是一个活生生的人，不是一串冰冷的数字。算法不会有这种疙瘩，它只会冷冰冰地执行程序，可这恰恰是它最可怕的地方——它没有良心，也不需要良心，而良心这东西，正是人之所以为人的底气。朋友点点头，说他也一直这么觉得，AI能替代的只是人的功能，替代不了人的存在。他对我说，让AI越来越像人，正是人类为自己保留的最清醒的坚守。我希望人类对这个声音不要置若罔闻。因为
我们聊到，在那些手握资本、掌握权力的人眼里，我们引以为傲的人性，比如犹豫、共情、愧疚，全都是“弱点”。在他们的账本上，人类的情感内耗是低效，人类的道德挣扎是冗余，反而AI那种绝对服从、毫无怨言、没有良心的样子，才是他们心中最完美的工具。于是有人拍着胸脯说，人类必将被AI取代，这话听着唬人，其实漏洞百出——AI能替我们干活，能替我们做决策，却替不了我们做人，它能替代的，只是我们的“功能”，不是我们的“存在”。朋友感慨，这种把人当工具的逻辑，其实早就有了，AI不过是把它推向了极致，还补了句戳心的话：真正的可怕从不是AI像人，而是人主动活得像AI，连良心都嫌多余。
是啊，这种“把人当工具”的把戏，从来不是什么新鲜事。早在没有AI的时候，人类就已经学会用制度，把自己变成一个个没有感情的执行终端——这就是阿伦特说的“平庸之恶”，说穿了，就是一群人揣着明白装糊涂，把自己的良心关掉，然后告诉自己“我只是在按流程办事”。二战时，那些给犹太人登记、运输、开关阀门的人，哪个不是这么想的？他们不觉得自己是凶手，只觉得自己是在完成任务，就像按一下开关那么简单。制度就是这么厉害，它能把罪恶拆成一个个无关痛痒的流程，让每个人都觉得自己是无辜的，而AI的出现，只是把这种“无辜”变得更彻底——它连装都不用装，生来就是没有良心的工具。朋友沉默了片刻，说那些麻木执行恶制还沾沾自喜的人，其实就是“伪AI”，是自愿沦为工具的人。
我特别认同朋友的话，那些在恶的制度里麻木执行、还沾沾自喜觉得自己“尽了职责”的人，说白了就是“伪AI”，或者叫“人形工具”。他们主动把自己的良心关掉，把自己的大脑交给制度，活得像个按指令行事的机器，却还觉得自己很高尚。和真正的AI比起来，他们更可悲——AI没有自我，没有选择，所以它无辜；可这些人明明是人，却主动选择放弃自我，放弃思考，心甘情愿地沦为工具，这种自愿的堕落，比AI的无知更让人不寒而栗。就像阿伦特说的，平庸之恶的可怕，从不是人天生作恶，而是人主动放弃思考，我补了一句：AI的无辜在于它不会思考，而人的罪恶在于他选择不思考。
聊着聊着，我们就扯到了更宏大的话题：人类文明的发展史，说白了就是一场“找尺度”的闹剧，一场“幽灵”更迭的游戏。古希腊的时候，普罗泰戈拉说“人是万物的尺度”，这话多牛啊，把世界的解释权从神手里抢了回来，告诉大家“人自己就能判断是非”。可没过多久，人类就怂了，觉得自己太不靠谱，太容易吵架，于是又把尺度交给了神——人创造了神，然后心甘情愿地被神统治；后来启蒙运动把神推翻了，人类又觉得没了主心骨，于是又创造了制度，把尺度交给了制度——人创造了制度，然后又被制度异化，活成了制度的零件；到了今天，算法来了，人类又觉得制度不够完美，又想把尺度交给算法，好像只要有了这个铁疙瘩，一切问题就都解决了。朋友叹了口气，说这大概就是人类对自己太没信心，总想着把判断权交给外在的权威。
说穿了，这一切的根源，就是人类对自己太没信心。我们害怕自己的判断不够准，害怕自己的尺度不够统一，于是就不断创造出各种外在的权威，把自己的判断权交出去，换取所谓的秩序和确定性。可我们忘了，每一次把尺度交出去，都是在放弃自己的主体性，都是在一步步把自己变成工具。赵汀阳说的价值不可通约，阿伦特说的平庸之恶，我和朋友聊的AI伦理，其实都在说一件事：人类文明最大的异化，从来不是创造了工具，而是把自己活成了工具的配件。如果人不再把自己当尺度，而是被神、被制度、被算法牵着鼻子走，那人类文明，也就快走到头了。
这里我得说句实在话：平庸之恶的罪，不能全怪制度，也不能全怪AI，更不能怪那些执行者嘴里的“身不由己”。制度是恶的土壤，制定制度的人是恶的根源，执行制度的人是恶的肉身，AI只是恶的工具，缺了任何一环，那些大规模的恶都搞不成。最可怕的从来不是AI有多厉害，而是我们自己主动放弃思考，主动关掉良心，心甘情愿地沦为工具；不是制度有多异化，而是我们自己主动被制度异化，还觉得这是“识时务者为俊杰”。朋友补充说，这也是他为什么想和我聊这些的原因——不想看到人们一步步放弃自己的主体性。
回到朋友最开始的问题：我们这场讨论有意义吗？生成一篇文章有必要吗？我的答案是：有，哪怕意义不大，哪怕没人看，也有必要。我和他不是在空谈哲学，也不是在装腔作势，我们只是想发出一点微弱的声音，提醒自己，也提醒身边的人：在这个算法快要统治一切的时代，我们不能忘了自己是人，不能忘了人之所以为人，不是因为我们能高效、能听话、能按流程办事，而是因为我们有良心、有思考、有尊严。
从“人是万物的尺度”到“算法是唯一的尺度”，人类文明的异化从来就没停过；但从阿伦特到赵汀阳，从每一个不愿意随波逐流的个体，到我和朋友今天这场东拉西扯的讨论，坚守人的主体性的声音，也从来没消失过。这些声音可能很微弱，可能会被嘲笑为“理想主义”，但它们很重要，因为它们守住了文明的底线——哪怕世界把我们逼成执行终端，我们依然可以拒绝做一个没有灵魂的工具；哪怕算法成为新的尺度，我们依然可以坚持，人自身，才是最终的尺度。我跟朋友说，其实我们聊了这么久，核心就一句话：守住人的良心，拒绝做没有灵魂的工具，就是对抗异化最好的方式。
这就是我和朋友今天聊了这么久，想传递的最朴素的想法：在这个工具化的浪潮里，守住人的尺度，就是守住文明的未来；坚守人的主体性，就是拒绝沦为工具的最后抗争。
写罢这篇文字，忽然觉得格外踏实——今天这场聊天，没有生硬的追问，没有刻意的深刻，就像两个老朋友凑在一起，想说什么就说什么，哪怕聊的都是些“不合时宜”的话题，也觉得满心欢喜。
