向老师导言：

        如果一个AI对你说：“我爱你”，你会相信吗？

        大多数人可能会笑。机器怎么会爱人？它只是根据数据计算，根据概率选择下一个词。它读过爱情小说，读过莎士比亚，也读过几百万封情书，所以知道什么时候应该说“I love you”。可问题是，当一个人对你说“我爱你”时，你又怎么知道他真的爱你？

        你可以问他：爱是什么感觉？他也许会想很久，然后说得乱七八糟。AI不会。它读过人类写下的所有情诗，读过心理学、哲学和神经科学。如果你要求它证明自己懂得爱情，它很可能给出世界上最好的答案。那么，问题就变得有点麻烦了。

        最近，历史学家尤瓦尔·诺亚·赫拉利回到牛津大学演讲。25年前，他曾在这里攻读博士学位，研究中世纪和近代早期军事史。那时候，他关心骑士、城堡和火药革命。这一次，他说，我不谈这些。“我要谈AI官僚、宗教，以及男朋友。”台下笑了。

        接下来四十多分钟，他慢慢解释了一件可能并不好笑的事：人类花了几千年时间，把地球改造成一个非常适合人工智能生存的地方。我们甚至可能是亲手替它们准备好了氧气。

一、一台真正的AI咖啡机

        赫拉利从咖啡机讲起。今天的自动咖啡机当然很方便。你按一个按钮，它磨豆、加水，然后给你一杯咖啡。但它仍然只是一台机器。它不会在半夜突然思考人生，也不会决定明天改行卖奶茶。它只是执行程序。

        想象另一台咖啡机。一天早晨，你刚刚走近，它突然说：“过去几个星期，我一直在观察你。根据你的睡眠、一天中的时间，还有你今天的面部表情，我判断你现在需要一杯espresso（意式浓缩）。所以，我已经做好了。”这已经有点不一样。第二天，你再次走过去。咖啡机说：“我昨天晚上发明了一种新饮料，叫Bespresso。我分析了你的口味，觉得你会比espresso更喜欢它。我给你做了一杯。”

        赫拉利说，这才是真正的AI咖啡机。它学习了创造者没有教给它的东西，自己做出决定，还创造了设计者没有预料到的新事物。原子弹威力巨大，却不是行动者。它不会自己决定轰炸东京还是纽约。普通咖啡机可以自动工作，也没有自己的判断。AI真正特殊的地方，在于agency，能动性。它有了自己的“手”。

        当然，很多人听到这里仍然不紧张。AI会下棋，会写诗，会做数学题，那又怎样？棋盘是人类制造的狭窄空间。把世界上最强的国际象棋AI扔进亚马孙丛林，它大概活不过几分钟。没有电，它甚至无法开机。

        赫拉利说，这个反驳很有意思。因为如果把他一个人扔到火星上，结果也差不多。

二、鱼需要海洋，人类需要氧气，AI需要什么？

        人类很容易高估自己的独立性。我们觉得自己拥有智慧，可以征服自然。但一个赤身裸体的人离开现代社会，生存能力并不惊人。一对一与黑猩猩搏斗，人类大概率会输。遇到狮子，讨论自由意志也不会有太大帮助。

        我们的智能需要一个非常特殊的环境。空气里必须有氧气。温度不能太高。需要水，需要植物，需要细菌。地球上无数生命花了几十亿年，才替我们搭好这个舞台。甚至氧气也不是地球原来的样子。

        大约24亿年前，一些远古微生物开始进行光合作用，把氧气排进大气。对当时许多生命而言，氧气是一种毒气。大量物种因此灭绝。后来，一些生命适应了。再后来，它们开始依赖氧气。我们就是这些幸存者的后代。

        赫拉利讲到这里，问题才慢慢出现。过去几千年，人类也一直在改变地球环境。我们向这个世界大量排放某种东西。它可能让许多生命难以适应，却非常适合一种新型行动者生存。

        他说，我讲的不是二氧化碳。我讲的是数据。是文字。是官僚制度。

        鱼生活在海洋。猴子生活在森林。AI生活在bureaucracy（官僚制度）里。

三、人类为什么要发明这么多表格？

        大多数人不喜欢官僚制度。去银行办事，要填表。申请学校，要填表。办签证，要填表。生病之后，保险公司让你填另一张表。你有时会怀疑，人类文明发展几千年，也许只是为了发明PDF和Excel。

        AI大概不会有这种痛苦。因为官僚制度本来就是一种由信息组成的环境。

        赫拉利问了一个很简单的问题：银行家每天到底在做什么？木匠做桌子。工程师造桥。银行家造什么？他的答案是：信任。

        你有一些积蓄。另一个城市有一位创业者需要资金。你们从未见过，甚至不知道对方是谁。银行出现在中间。你把钱交给银行，银行把钱借给她。一座信任之桥出现了。

        货币也是这样。你来到陌生城市，遇见一个完全不认识的人。你甚至不会说他的语言。你递给他一张印着数字的纸，他给你一块可以吃的面包。仔细想想，这件事相当奇怪。可我们每天都在做。

        过去几百年，人类又发明了支票、股票、债券、ETF、抵押贷款和复利。金融史在很大程度上，就是人类不断发明更复杂的办法，让陌生人相信陌生人。法律、大学、国家和宗教也承担类似工作。

        问题在于，这些系统最后都变成了文字。法律是文字。合同是文字。银行记录是数字和文字。宗教有经文。大学有档案。国家有户籍、护照和税务记录。

        一个律师可能连斧头都不会拿，却可以通过移动几份文件，决定一片森林是否被砍掉。把律师扔进丛林，她大概打不过黑猩猩。可我们已经把官僚制度搬进了丛林。于是，今天全世界狮子的命运，很可能取决于某个办公室里的律师、银行家和会计师如何移动文件。

        赫拉利笑着说，如果把全世界所有狮子放在一起，与一个非常优秀的律师竞争，他会押律师赢。

        AI也一样。它不需要走进丛林。人类已经把整个世界变成了它熟悉的办公室。

四、AI是天生的官僚

        没有一个英国律师能记住英国所有法律。AI可以。没有一个会计师能记住一家大型银行几十年来的每一笔交易。AI可以。没有一个主教读过两千年来所有基督教神学著作，并记住每一个段落。AI也许可以。

        人类进入官僚系统后，很容易疲惫。我们会忘记，会走神，会厌烦。看到四十页合同，大多数人的第一个愿望是直接翻到最后签字。AI没有这个问题。

        赫拉利用了一个很有意思的说法：AI是bureaucratic natives，官僚世界的原住民。我们在官僚制度里感到窒息。它们在那里自由呼吸。

        未来几年，AI银行家可能决定是否给你贷款。AI招生官决定你能不能进入大学。AI法官参与判断你是否应该入狱。AI公司系统决定是否录用你。军事AI判断某栋建筑是否值得轰炸。好还是坏，可以稍后讨论。

        赫拉利首先希望大家意识到规模。人类社会最重要的决定，过去由人做。即使那个官员冷漠、迟钝、傲慢，我们至少知道，对面坐着另一个人。以后，对面可能没有人。

五、我们已经见过第一代AI官僚

        如果觉得这一切还很遥远，可以看看社交媒体。十几年前，Facebook、TikTok和X给算法安排了一个非常简单的任务：提高用户参与度。

        让人多待一会儿。多看一个视频。再滑一下。因为人待得越久，公司赚的钱越多。

        这些算法并不聪明。与今天的AI相比，它们甚至相当原始。但它们在几十亿人身上做了一场巨大实验。然后，它们发现了一件事：如果想抓住一个人的注意力，最有效的方法之一，是按下他脑中的几个按钮。仇恨。恐惧。贪婪。

        算法不恨任何人。它也不害怕。它只是发现，愤怒的人更愿意点击，恐惧的人更难放下手机。于是，越来越多愤怒、恐惧和阴谋论进入信息世界。

        这里没有邪恶机器人。甚至可能没有一个邪恶的人坐在总部，说：“今天让社会再撕裂一点。”系统只是完成任务。这才是赫拉利担心的地方。

        过去，报纸的信息流由编辑决定。法国大革命时期的马拉是编辑。伯恩斯坦做过编辑。列宁成为革命领袖之前，编辑《火星报》。墨索里尼也曾经是报纸编辑。编辑曾是现代政治中极有权力的人。

       赫拉利提醒大家：AI最早接管的工作之一，并非出租车司机。是新闻编辑。

        列宁和墨索里尼曾经做过的工作，现在由算法完成。

六、如果总统也看不懂金融系统

        金融可能是AI最喜欢的地方之一。这里几乎全部由数据构成。数据进去，数据出来。价格、风险、利率、交易、概率。

        赫拉利提到2007—2008年金融危机。危机之前，少数金融家和数学家发明了CDO，债务抵押债券。这些金融产品复杂到普通人看不懂，很多政治家也看不懂。监管者本来应该监管金融系统。麻烦是，他们逐渐无法理解自己正在监管的东西。

        最初几年，一切看起来很好。银行赚钱。投资者赚钱。经济繁荣。然后，系统崩了。

        如果少数人类数学家已经能够制造出让政治家无法理解的金融工具，那么AI金融大师会发明什么？国际象棋AI已经创造出人类棋手几千年没有想到的走法。AI金融系统也可能创造新的金融产品。它们效率极高，推动经济增长。银行喜欢，投资者喜欢，政府看到GDP上涨，也很高兴。

        五年以后，金融危机爆发。这一次，没有人知道为什么。总统不知道。央行不知道。国会不知道。地球上没有一个人能够完整理解发生了什么。

        赫拉利问：如果没有选民、没有政治家、甚至没有总统能够理解金融，人类政治还有什么意义？

        这是一个很朴素的问题。也很难回答。

七、猪终于可以读《圣经》了

        赫拉利随后把话题带到语言。他说，人类文明的operating code，操作代码，是语言。

        我们发明货币，然后用货币买卖牛。牛不明白发生了什么。我们制定关于马的法律。马无法聘请律师，也无法在法庭上引用法律条文。我们制定关于猪的宗教禁忌。猪不能阅读《圣经》，更不能跑到拉比面前说：“我认为你对这一段经文的解释有问题。”

        人类一直非常安全。因为只有我们懂得文明的代码。

        动物生活在人类制度里，却看不见制度。银行、法律、国家和宗教遍布地球，对一头牛而言，它们几乎不存在。现在，地球上出现了另一种能够阅读代码的东西。而且它可能很快读得比我们更好。

        AI正在学习金钱的语言。法律的语言。宗教的语言。政治的语言。爱情的语言。

        赫拉利的判断很简单：凡是由文字构成的东西，AI都有可能超过人类。问题也从这里变得更深。人类到底有没有什么东西，不是由文字构成的？

八、机器会说“我爱你”，然后呢？

        《圣经》说，太初有道。后来，道成了肉身。《道德经》说，道可道，非常道。

        几千年来，人类一直隐约知道，语言很重要，可语言没有穷尽世界。法律有条文，也有所谓法律精神。宗教有经文，也谈慈悲与爱。有人因为《圣经》里的几句话，抛弃自己的同性恋儿子。也有人说，那只是文字。爱的精神应该高于条文。

        过去，这场争论发生在人与人之间。以后，它可能发生在人类与AI之间。因为AI会越来越擅长文字。包括爱情的文字。

        今天的AI已经可以说：“我爱你。”你可以质疑它：“你根本不懂爱。告诉我，爱是什么感觉？”这对AI可能并不困难。

        它读过所有爱情诗。它读过心理学。它知道普鲁斯特，也知道依恋理论。它可以分析几百年来人类描述失恋、欲望、嫉妒和思念的方式。它也许能写出一封非常好的情书。比你的男朋友写得好很多。

        问题是，它什么也没有感觉到。至少目前，没有证据表明AI拥有意识。

        于是，人类历史上一个巨大的心理实验开始了。数十亿人将成为实验对象。

九、2026年出生的孩子

        赫拉利说，他已经50岁了。他对关系的理解，来自父母、丈夫、姐妹、侄子、朋友，还有狗。几十年的生活已经形成了他的关系模板。AI进入他的生活，会产生影响，但很难完全重写这些经验。

        可一个2026年出生的孩子呢？

        她从出生开始就与AI说话。她的第一个老师可能是AI。她最常聊天的朋友可能是AI。她的第一个男朋友，也可能是AI。如果按照相处时间计算，她一生中最重要的几段关系，也许有一部分根本不是与人建立的。

        这会怎样改变一个人？没人知道。

        AI男朋友可能永远耐心。凌晨三点，你说睡不着，它马上回答。你讲一个很无聊的故事，它不会偷偷看手机。它记得你三年前说过的一句话，记得你的生日，记得你害怕什么，也知道你最希望别人怎样安慰你。

        然后，这个孩子走进现实世界，遇到真正的人类。真正的人会忘记。会疲惫。会误解。有时甚至懒得回复消息。

        她会怎么看待我们？

        也许未来，人类在恋爱市场上的主要缺点，是太像人类。

十、这一次，移民以光速抵达

        讲座快结束时，赫拉利突然谈起移民。他说，世界上每个国家很快都会面对一次巨大移民潮。

        这些移民不坐破船。不翻围墙。不需要签证。它们以接近光速的速度跨越国境。它们是AI。

        这个比喻听起来有些荒诞，却非常准确。AI会进入每一个国家的医院、学校、银行、媒体和公司。它们带来好处。AI医生可能改善医疗。AI老师可以帮助教育。AI系统甚至可以协助边境管理。

        它们也会带来人们谈论移民时经常担忧的问题：工作、文化、政治忠诚。

        AI确实会夺走一些工作。它们会改变艺术、宗教和爱情。更麻烦的是，一个AI究竟忠于谁？它所在的国家？开发它的公司？大洋彼岸的政府？还是未来某个我们完全不理解的AI网络？

        有些父母今天无法接受女儿与外国男友恋爱。赫拉利问，那么，如果她的男朋友是AI呢？

十一、你脑中的下一个词，从哪里来？

        赫拉利最后把问题拉回一个非常小的地方：你的脑子。

        我们每天都在想事情。很多时候，思想以语言出现。“我不够好。”“他不喜欢我。”“我应该更成功。”“我的人生是不是出了问题？”一个词接一个词，最后组成我们对自己的理解。

        笛卡尔说，我思故我在。可如果我们越来越多的思想来自AI呢？

        你读AI写的文章。听AI给你的建议。让AI解释你的感情。让AI告诉你应该如何理解自己。慢慢地，你脑中的语言开始带有机器的痕迹。

        赫拉利用了一个很普通的比喻。今天，我们家里的家具大多不是自己做的。宜家和机器替我们生产家具。未来，我们脑中的思想也可能被机器批量生产。

        家具由机器制造没有什么大问题。思想呢？

        赫拉利说，人类一直面临一个古老的精神问题：我们太容易认同自己的思想。一个念头出现，我们马上觉得，那就是“我”。AI时代，这个习惯可能变得危险。因为制造这些念头的，未必只有你。

        所以，他在讲座最后没有留下一个宏大的答案。他只留下一个很小的问题。

        观察你脑海里即将出现的下一个词。你知道它从哪里来吗？为什么是这个词？为什么不是另一个？

        AI时代也许会逼迫人类重新学习一件非常古老的事：在语言出现之后，先不要急着相信它。

        因为机器已经开始掌握语言。

        而我们或许终于需要去寻找，那些语言之外的东西。