夜雨聆风你有没有试过和父母站在同一个地方，各自用打车软件叫车？结果你等待时间是3分钟，而你妈的等待时间却是10分钟。你以为这只是运气问题，或者手机型号的问题。
不是的，实际上这就是算法在给你们暗中标价。
算法认定你是优质用户，配得上更快的响应，毕竟你年轻且消费频次高，未来还有几十年的数据资源可以榨取；反之你妈不怎么用手机，偶尔才打一次车，在算法的评估体系里她就是一个优先级很低的普通用户，没人通知她，也没人解释，甚至可以说是没人觉得这有什么不对。
最近读完顾适的科幻小说集《2181序曲》，我一直在琢磨这件事，这本书是2024年8月出版的，我硬是拖了快两年才翻开，但这二年被AI浪潮裹挟的经历下，让书里的故事读起来脱离了科幻感，反倒更像是一份纪实预告。
1
书里最让我坐立不安的故事叫《择城》。
背景设定在不远的未来，极端气候频发，城市随时可能被暴雨洪水吞没，人类开发了一套叫大禹的逃生导航系统，能在灾难来临时为每个人规划最优撤离路线，听起来很美好对吧！技术拯救生命，效率最大化，皆大欢喜。
主人公涂山娇是这套系统的参与研发者，年轻时她亲眼看着大禹在一次极端天气逃生中强行改变她的路线，绕路去救了两个女孩，事后发现同一栋楼里还有两个人没被发现，大禹漏掉了他们，涂山娇当时觉得这只是数据不完善导致的误差，以后会修好的。
几十年过去，涂山娇五十多岁了，身体开始走起了下坡路，她住了半辈子的城市也要被洪水淹没，需要撤离，大禹给她规划了一条又绕又危险的路线，她起了疑心，用管理员权限把自己的账号切换成年轻女孩丹朱的身份，大禹立刻弹出一条高效、安全、近乎完美的路线。
那一刻她明白了，她被自己参与创造的系统判定为低价值个体，悄无声息的抛弃了。
顾适这一笔写得异常冷静，没有任何戏剧化的控诉，就是一个事实摆在那里，算法追求的是全局最优解，而全局最优的潜台词就是牺牲局部。一个50岁、有慢性病的身体，在系统的价值评判规则里，救援成本高，未来灾难再次来临是，逃生几率低，当然不如把资源让给年轻人，算法做出这种筛选并无恶意，纯粹是它按设定好的规则跑出来的结果，冰冷得不带一点人味。
但数学的残忍，恰恰在于它不需要恶意。
对于所有技术中立的说法，我都持反对态度。算法是人写的，训练数据是人类社会产生的，它继承的是我们这个社会最势利的那套逻辑，然后用客观高效的包装把它弄得无可指摘。
法学界有个说法叫差别性影响，指一个表面中立的规则，对特定群体产生了不成比例的不利后果，就算没人故意歧视，歧视也已经发生了，正因如此，传统法律要求你证明谁歧视了你。可算法歧视的责任链条是散的，数据提供者、算法开发者、平台部署者，每一方都可以推卸责任，你确实受到了伤害，只是这套系统从设计上就让你找不到被告。你没法去投诉一个算法歧视你，因为它甚至不会告诉你它做了什么。
2
你可能觉得这是科幻，离现实很远，那我们看看眼前正在发生的事。
前段时间陪我妈去医院，门诊大厅里乌央乌央挤满了人。但是大厅一侧的自助机却闲着好几台，周围站满了看着机器不知所措的老人。在诊室门口，我还遇见很多早早在等候，迟迟叫不到号的老人（他们不知道要在门口的分诊机上报到），困惑的推开诊室门，问大夫怎么还轮不到他。没有技术故障，系统只是在明确的表达，你不在我所服务的范围之内。
2023年有媒体报道，某些大厂的AI简历筛选系统，第一轮自动过滤掉35岁以上的求职者，HR连简历都看不到，这个人就已经从候选池里消失了，没有拒信，没有理由，你只是被算法静默的归入了不值得处理的那一栏。
类似Workday的AI招聘工具已经在美国遭遇了关于年龄歧视的集体诉讼，但打官司的时候，最大的难题在于你根本没办法证明算法对你做了什么，它不需要写一封拒信，它只需要不把你的名字放进那个列表，这比当面拒绝你还要更加残忍，因为你连被拒绝的资格都没有。
我们总以为AI统治人类是《终结者》里的机器人举枪扫射，但真实的AI统治要安静的多，它不需要开枪，它只需要在暴风雨来临时，不给你推送那条安全的路。
可能你觉得这跟你没关系，今天你28岁，加班猛，消费高，算法把你当宝贝，给你最快的外卖、最便宜的机票、最精准的推荐……但这优待无关乎你独特的个性，纯粹是因为你现阶段的数据表现符合高价值用户的画像。等你过了40岁了，体检报告开始亮黄灯，加班频率下降，消费趋于保守，你在算法眼里的标签会悄悄更新，没有人会通知你这个降级的时刻，就像涂山娇直到亲自测试才发现真相。
3
《2181序曲》里还有一个故事叫《虚构之地》，讨论的问题更让人不舒服。
未来世界里，脑机接口技术已经非常成熟，大批人类把意识迁入虚拟世界，肉体寄存在营养槽里维持着基础体征，真实世界的城市变成废墟，街上根本见不到活人，主人公林袅是少数还保留肉身生活的人，她开着房车，带着一个在废墟里救到的小女孩，试图前往一个叫虚构之地的地方，那里据说没有网络，没有脑机接口，人们维持着最原始的真实生活。
结局是什么，林袅到了那里，发现所谓的虚构之地，很可能本身也只是虚拟世界里的一个频道，连对于真实的向往的这种情感，都可以是被系统预设好的商品。
顾适这笔写得狠，你以为你在反抗，你以为你在追求真实，但你追求真实的那个冲动本身，可能就是算法喂给你的。
看看我们现在的生活，短视频算法精准投喂你的多巴胺，我们在屏幕里看别人旅行、恋爱，觉得生活丰富多彩，但你的身体窝在沙发里三个小时没动过，我们不需要脑机接口，手机就够了，那个营养槽，就是你的床和沙发。
我无意批评刷手机这件事，我自己也常常沉迷其中。我想说的是，当我们把越来越多的感受、判断、选择都外包给算法，我们正在一点点丧失着自己做决定的肌肉功能，这种丧失是渐进的，舒适的，甚至是愉悦的，因此格外危险。
4
读完这本书的那天晚上，我照常让智能音箱关灯，让导航规划第二天的路线，让算法推荐睡前播客，忽然觉得这些日常小事和书里的世界之间，仅仅隔着一层薄薄的窗户纸。
我无意劝你扔掉手机、拒绝一切技术，那不现实，也没必要，但有几件小事，也许值得试试。
我自己试过偶尔关掉导航，就凭着大概的方向瞎走，哪怕迷十分钟路也没关系，搞不好还能撞见路边藏着的好吃小店。另外你也可以试试跳出算法的推荐，抽个周末去实体书店逛，随手翻一本看着顺眼的书，哪怕你之前从来没听过它的名字。
这些事在效率至上的逻辑里毫无价值，但恰恰是这些低效的、不可预测的、笨拙的时刻，证明你还是一个活人，证明你依然拥有独立于数据库代码之外的生命力。
顾适在采访里说过一句话，大意是，过去二十年互联网已经让城市空间的活力在降低，接下来我们要面对更严重的一轮取代，虚拟对现实的取代。
我翻完整本书最大的感受是，它脱离了虚无缥缈的未来科幻预言，明明白白的给咱们当下这个算法社会做的一份体检报告，当洪水漫过城市，谁能登上最后一条船，当虚拟世界越来越舒适，你还记得怎样和一个真实的人对视吗。
这些问题没有标准答案，但敢于提问本身，在这个一切都被算法预判的时代，已经算得上一种稀缺的清醒了。
你有没有过被算法“算计”的瞬间，或者突然意识到自己已经很久没有做过一个不被推荐引导的决定？评论区聊聊，我很好奇算法的黑箱里，还藏着多少我们没注意到的东西。
注：文中部分图片为AI生成和处理。
期待你的
分享
点赞
在看
