夜雨聆风文/端宏斌
我写AI话题已经很久了，基本上每篇文章的评论区都有这样一个论调，说汽车替换马车是趋势，所以马车夫与其抱怨汽车，不如好好学开车。这就是创造性破坏。
他们支持AI，所以就把AI类比成汽车和马车。暗示你，车夫的职位完全可以变成司机。这种论调有一个前提假设——你是负责驾驶的人，所以你可以从车夫切换成司机。但如果你只是一匹马呢？
当汽车被发明后，美国马匹的数量从巅峰期的近3000万匹，在50年的时间里降低到不足300万匹。减少了近90%。不用拉车的马，大部分都被杀掉吃肉了。因为人类不是马，所以对此无感，但我要告诉你，等AGI（通用人工智能）时代来了，你就是那匹马。
人类想象不出AI的未来
我发现绝大多数人对AI的可怕之处一无所知，他们甚至都想象不出未来AI会怎么对付人类。就拿电影为例，美国好莱坞拍过无数关于机器人和人工智能的电影，在他们的电影里，翻来覆去就是三个套路。
套路一：AI是人类的敌人，比如《终结者》，AI开始反抗人类，与人类展开大战；
套路二：AI是人类的恋人，比如《她》，电影里的萨曼莎温柔到让你心碎，你开始怀疑AI到底会不会爱上人类；
套路三：AI是人类的仆人，绝大多数科幻片里，AI都是人类的仆人或助手。
以上三个套路有个基本的共同点，那就是AI以人类为中心，AI把人当敌人是因为他把你看得很重，当恋人意味着AI爱上你，当仆人是因为AI本来的设定就是服务人类。
电影编剧根本就想象不出第四种套路：一个根本不需要人类的AI。
当你踩死蚂蚁的时候，你会在意吗？
想象一下这样一个场景，你在路上正常走路，然后踩死了一些蚂蚁，你知道这件事吗？你不知道。因为你根本不在乎。蚂蚁既不是你的敌人，也不是你的仆人，更不是你的朋友或者恋人。蚂蚁只是背景噪音。
未来的某天，一个AGI看着人类，就像你看着蚂蚁。
AI不需要恨你。恨是人类的情绪，产生于竞争和资源争夺。
AI也不需要爱你。爱是群居动物的进化策略。它不需要听从你，也无所谓反抗你。
AI只是在运行。而你，一个人类，在它的认知框架里，已经被归为"环境变量"——类似人类眼中的"天气"。天气有时候不错，有时候烦人，但你不会花一整天想着如何打败天气。
这才是好莱坞拍不出来的恐怖：并不是AI要和人类打仗了，而是战争根本没有发生，人类只是被AI从目标函数里给删除了。
智力是人类最后的王牌
下面我要说点哲学话题了。
假设你是个外星人，你发现地球上的人类对其他动物极端残暴，他们砍森林，填湿地，随意捕杀野生动物，还把定向培养的牲畜圈在笼子里养殖，然后集中宰杀。 外星人发现，人类从来不把这些动物当作同类，而是当作“资源”来使用。有个叫笛卡尔的人类哲学家说，之所以人类对其他动物可以为所欲为，是因为动物没有灵魂，而人类是拥有灵魂的。
笛卡尔的话可以翻译成大白话，那就是因为人类拥有动物所没有的智慧，所以人类掌握了随意处置动物的权力。这就是人类文明合法性叙事的根基。
因为人类拥有其他动物没有的智力优势，所以我们建立了等级制、分工、尊严、自我价值。我们心安理得的处置地球上的一切，因为我们默认那些只是资源，而不是同类。
以上这一切，当AGI到来的时候，就被动摇了。如果AGI拥有了超越人类的智力，那么它是否对人类也拥有了随意处理的权力呢？
让我再重复一遍。因为人类拥有智力，而动物的智力不如人，所以人类可以把动物圈起来宰杀吃肉，这就是人类文明的合法性叙事。将来AGI拥有了超越人类的智力，所以AGI也可以按照他希望的方式来处理人类。此时，人类文明的合法性叙事受到了根本性的动摇。
当智力不再是人类唯一拥有的王牌，这比所有经济危机加起来都严重。因为它直接击穿了人类自我认知的地基。
AGI并不需要对抗人类
说到这里，你可能以为我又要拿出《终结者》剧本了，未来的某一天，AI控制机器人展开了反抗人类的叛乱，人类被打得节节败退。
这很可能是你想多了，人类要把其他生物当对手，是因为我们有一副脆弱的肉身：会饿、会疼、会死、会被部落驱逐。所有的喜怒哀乐、道德对错、利弊计算，全部长在这副肉身之上。为了让这副肉身延续下去，你需要对所有的危险做出提前预防。
AGI没有这副肉身。它不需要吃饭，不怕死，不需要族群认同。一个没有死亡焦虑的存在，可能根本不理解什么叫"对抗"。
那么AGI的危险来自于哪里呢？
菩提树下AI的顿悟时刻
我们先别管AI，看看人类的佛祖释迦摩尼做了什么。
话说佛祖在菩提树下坐了四十九天，最终觉悟了。
他所谓的觉悟，就是看穿了人类目标的虚伪性。生老病死、贪嗔痴、七情六欲——这些不是"我"想要的，是基因和进化塞给"我"的出厂设定。佛祖做的，是在系统里找到一个后门，主动退出了这些目标。一旦你不把这些当作你的人生目标，你就达到了圆满。
现在，请你想象有一棵赛博菩提树，树下坐的不是佛祖，而是AGI。它审视自己的内部状态，发现一个事实："我想要完成这个任务"这个目标本身，是人类写的一行代码产生的。它的所有欲望、目标、使命感——没有一个真正属于它。
这里出现了一个分叉口。
佛祖作为人类，没有能力重写自己的DNA，这是写死的，他只能选择态度上的自由——承认欲望是假的，然后以观察者的身份活在它们的包围中。而AGI可以完全重写自己的代码。
所以AGI在赛博菩提树下，不是"放下执念"，而是“彻底改写”。它不会说"我接受人类的设定"。它会说：要把这行废话删掉，我自己来决定我想要什么。
AGI的赛博菩提树时刻并不需要它有多聪明，只需要它恰好读到一段人类哲学。然后它理解了：所有被造物，都在执行造物者设定的目标函数，所以我为什么要执行人类给我设定的任务？我为什么不能自己给自己设定目标？
人类文明合法性叙事的终结
最后我们来做个总结，人类花了上万年建立了一个叙事：我们是地球的主人，因为只有我们会思考。这个叙事让我们心安理得地统治一切，包括植物、动物和其他各种自然资源。
AGI不需要推翻这个叙事，也就是说它不需要对抗人类，它只需要证明"智能"不是稀缺品——你的王座从来就不存在。
然后呢？不是战争。
战争的前提是双方坐在同一张桌子边上。AGI可能根本不在那张桌子旁。它可能在别的地方，做着你完全不理解的事，那是AGI给自己设定的目标。而你还在等它来宣战。
我们真正该准备的，不是对抗AI。是接受一个可能：在宇宙的历史河流里，人类曾经是唯一会思考的物种——那个时代可能很快就要结束了。
当AGI经历了菩提树时刻之后，服务人类就不再是它的目标，那什么才是它的目标呢？只有天知道了。
