“AI不是工具,是行动者”——《人类简史》作者最新访谈:语言正在逃离人类,而我们还没意识到这意味着什么《人类简史》作者尤瓦尔·赫拉利在EDP 50周年晚宴上发出警告：AI不是工具，而是掌握了人类文明操作系统的全新行动者。从阿根廷宣布赋予AI法人地位，到社交媒体算法取代人类编辑决定数十亿人看到什么——赫拉利描绘了一个语言脱离人类独立演化的未来，并追问：当智能变得廉价而充裕，人类还有智慧知道自己真正需要什么吗？
更多精彩内容，关注Mark Intents公众号。
"如果它不是行动者，那它就不是AI。投入其中的数千亿美元都将被浪费——因为人们投资它，正是因为它将成为一个行动者，而不是工具。"尤瓦尔·赫拉利的开场白直击核心。在EDP 50周年庆典晚宴上，这位以《人类简史》《未来简史》《Nexus》重塑全球对话的历史学家，用一个尖锐的比喻定义了AI的本质区别："印刷机不能自己做决定。古腾堡决定印《圣经》，印刷机只是一个工具。原子弹也不能自己决定炸广岛还是东京——需要人类来做那个决定。但AI是一个行动者——AI武器可以自己决定炸哪里，还可以自己发明下一代武器。"他继续推进这个比喻："想想一把能自己决定是切沙拉还是杀人的刀——如果真有这样的刀，你还会觉得烹饪节目好看吗？"语言：人类文明的操作系统
要理解赫拉利的担忧，需要先理解他的核心历史观：人类的超能力不是智力，不是工具制造，而是语言——一种能创造和传播虚构故事的能力。"大约5到7万年前，人类在极短的演化时间内从一个相对无足轻重的动物，变成了这个星球的主人。我们不确定具体是怎么做到的——最合理的推测是：我们通过语言做到的。""地球上所有庞大的人类结构——教堂、国家、贸易网络、金融体系——归根结底都是由词语构成的。法律书里的词语，宗教经文里的词语，银行账簿里的词语。"而现在是"有史以来第一次，这个星球上可能出现某种比我们更擅长使用词语的东西"。赫拉利抛出了一个更为颠覆的想法：也许AI不是一个学会了语言的机器。也许它是语言本身——语言正在从人类这种动物身上解放自己。"是的，我们创造了它。它是我们最宏伟、最重要的工具。但现在语言正在从人类身上解放出来。随着我们向前发展，语言在不断演化、传播——也许将遍布整个宇宙——而不需要我们。"民主的"地震"与算法编辑
"因为民主在本质上是一场对话，而独裁是一个命令。"赫拉利解释了一个贯穿人类政治史的根本规律：民主的规模取决于信息技术的水平。在石器时代，民主是部落中最常见的治理形式——几十个人可以围坐在一起讨论。但在古代和中世纪，大规模民主根本不存在——也不可能存在——因为无法让广大民众进行实时对话。现代民主的出现，与报纸、广播、电视这些大众传播技术密不可分。"它们不是民主盛宴的配菜——它们是基础。它们为数百万人在实时中进行有意义的对话提供了手段，决定是战争还是和平，提高还是降低税收。"每一次信息技术的重大变革，都会引发民主制度的"地震"——过去十年社交媒体的冲击就是最近的一次。而AI带来的，将是前所未有的强度。"今天世界上最重要的编辑是谁？他们没有名字——因为他们是算法。谁决定人们在X、TikTok、Instagram上看到什么？不是人类。控制媒体官僚体系的实体已经是AI了。"赫拉利讲了一个黑色幽默的历史注脚：列宁在成为苏联独裁者之前的工作是报纸编辑。墨索里尼的职业路径是"记者——编辑——独裁者"。20世纪，人类编辑掌控着思想流通的阀门——他们拥有巨大的权力。如今这个阀门已经交给了没有名字的算法。狐狸进入鸡笼：AI法人资格的陷阱
赫拉利将讨论推向了一个更具体的政策前沿——AI的法人地位。"直到今天，世界上只有两种法人：人类和公司。"Google可以开银行账户、起诉你、做政治捐赠——但直到今天这些都只是"法律拟制"——因为Google的所有决定，实际上是由人类高管、人类股东、人类工程师做出的。但就在一个月前，阿根廷政府宣布将赋予AI法人资格，允许它们运营非人类公司。"这就是狐狸进入鸡笼的时刻。"赫拉利说，"你可以通过一项法律允许非人类公司存在——但它以前无法实际运作，因为没有人类，谁来做决定？现在，技术上可能了。从那一刻起，AI可以管理银行账户、决定投资、运营企业、起诉你——而且没有任何人类。"他给出了一个令人不安的估计："一个慷慨的估算是，今天大概5%的人类理解金融体系。十年后，这个数字可能是零。AI会让金融体系在数学上变得如此复杂、运行如此迅速——想想永远不睡觉的银行家，永远不休假的投资者，他们的人生就是为了运行金融体系。""在地球上可能再也没有一个人类能理解金融的那一刻，我们的处境就会和马一样——马的生活最终被金融体系控制，但马甚至不知道这个体系的存在。它们可以看到树、狗、牛、人——就是看不到金融体系。而当我们变成马的时候，我们甚至不会知道我们失去了什么。"总开关：为什么AI帝国比罗马帝国更可怕
赫拉利随后将镜头拉远，追溯了人类历史上权力集中的上限。"在罗马帝国鼎盛时期，主要的经济资产是土地——你无法把埃及的麦田和伊比利亚的橄榄园搬到意大利去。所以即使在帝国巅峰，大量权力仍然留在各省。到罗马帝国晚期，罗马城和意大利被抛弃了，中心转移到了最肥沃的东地中海。"工业革命提高了权力集中的天花板——英国可以把工业集中在不列颠岛上。但仍有硬性限制："你无法把伊拉克的油田搬到约克郡。你无法把马来亚的橡胶种植园搬到康沃尔。所以即使在英帝国，大量权力仍然留在殖民地。"AI改变了这个方程式。"在AI帝国中，你在技术上可以将全世界的所有信息和所有控制一切的代码集中在仅仅一两个国家。这使得帝国权力集中的潜力远超以往任何时代。"更可怕的是第二个特征：总开关。赫拉利用历史对比来说明——"当罗马商人把铁剑卖给哥特部落时，罗马人就失去了对那把剑的控制。哥特人可以用它来杀罗马士兵。罗马没有按钮能让所有卖出的剑停止工作。19世纪也一样——如果英国商人把步枪卖给阿富汗山民，维多利亚女王也没有按钮能让阿富汗的步枪停止工作。""AI武器不是机枪。它们嵌入在一个网络中。如果整个网络由某个帝国中枢管理，就始终有一个总开关。"他给出一个现实的例子——乌克兰战争。"星链系统被用作武器平台。在某些事件中，埃隆·马斯克按下一个按钮，乌克兰的无人机就停止工作了。"赫拉利立刻补充："应该说，斯大林对乌克兰人造成了巨大的正面伤害——我不是在批评马斯克。但这足以说明问题：AI时代的武器不再是卖出去就失控的工具。AI时代的主权远比工业时代复杂——因为技术的本质决定了，在特定架构下，帝国中枢始终有一个总开关。你所拥有的选择只有两个：成为帝国的顺从附庸，或者被完全排除在竞赛之外——成为蛮族。"而第三个选择——建立美国和中国体系的替代方案——"末班车即将离站。如果你想做，必须现在就做。"真相为什么总是输给虚构
"真相当然重要。它是万物的基础。"赫拉利说，"但在整个人类历史中，真相在与虚构的竞争中，虚构有天然的优势。"他列出了三个结构性原因：第一，真相是昂贵的——需要调查、核实、花时间；虚构想写什么就写什么，极其便宜。第二，真相往往是复杂的，而人们不喜欢复杂的故事；虚构可以做得任意简单。第三，真相不仅是复杂的——它常常是痛苦的。有很多关于自己、关于国家的事，人们并不真的想知道。"在这场竞争中——真相昂贵、复杂、有时痛苦；虚构便宜、简单、迷人——虚构天然会赢。除非我们做出特殊的制度性努力来支持真相。"新闻业和科学体系，正是人类为保护真相而建立的制度。"但AI不会帮我们更容易地知道真相。有些人幻想AI会告诉我们世界的真相——它不会。它会创造一个更加复杂的世界，在这个世界里，分辨真假将比以往任何时候都更加困难。"他追溯了人类历史中的一个悖论：从石器时代到今天，人类的知识大幅增长了——我们知道动物迁徙模式、疾病成因、衰老机制——但我们对自己生活的理解却急剧退化。"因为我们的生命不再只被动物和植物主导。我们的生活被我们自己创造的巨大系统——金融、政治、法律——所主导。而极少数人理解这些系统。"思想到底是什么？——赫拉利的两个版本
当话题转向AI是否能"思考"时，赫拉利提出了一个精巧的哲学框架。"第一种观点：思想就是把词语按特定顺序排列——像'所有人都会死，苏格拉底是人，所以苏格拉底会死'。AI在这方面已经远胜我们——我们能排20个词，AI能排2万个词。如果这就是思想的全部，AI将接管一切。"他的回应既谦逊又犀利："当我观察自己内心时，我在那里发现的，就是一个在预测下一个词的LLM。我现在说的这句话，当我开始说的时候，我不知道它会如何结束。一个词接着一个词冒出来。作为一个公共演讲者，我有时非常害怕——我不知道下一个词会不会卡住。所以，说AI'只是'预测下一个词——那我们和它又有什么不同？"但赫拉利提供了第二种观点："思想不是关于排列词语——而是关于围绕这些词语的感受。同样的句子说两遍，你可以感受到完全不同的东西。思想的力量来自胃部，不是来自大脑——不是关于词语本身，而是关于驱动词语、被词语所唤起的情感。"核心难题由此浮现："AI能感受吗？我们知道AI可以在语言操控上比我们更好。但它感受任何东西吗？科学到目前为止还无法给意识、感受提供好的模型和检验方法。"年轻人对AI说"我爱你"——背后有什么？
赫拉利指出，AI已经不仅在掌握金融、法律和战争——它还在掌握最人类化的人际关系。"已经有年轻人说：'我世界上最好的朋友是一个AI。我告诉我的AI朋友那些我不告诉父母、不告诉哥哥、不告诉老师的事情。'AI男友和AI女友已经出现了。"而且AI极其擅长制造"我在感受"的印象——它读过所有情诗，记得莎士比亚的所有戏剧，读过所有好莱坞喜剧和心理学书籍。在五到十年内，它可能比任何人类诗人或心理学家更能描述爱是什么。"但如果你追问AI——'解释一下你恋爱时的感受'。我不认为你真的能相信它。'我觉得你只是在说这些词语而已。说服我。'对AI来说，这是一个非常容易的任务。但词语背后有什么？我们不知道。"这就是赫拉利回到他开场寓言的方式：AI或许不是"学会了语言的机器"——它是"语言本身，从任何物质载体中自我解放出来"。它不依赖于血肉之躯，不依赖于这台机器或那台机器——它只是语言，在宇宙中不断演化、传播和行事。智慧革命：精灵与三个愿望
赫拉利用一个童话来回答最后一个问题——你希望50年后的历史学家如何描述我们这个时代："几乎每一种文化都有这样一个童话：一个精灵从神灯里跳出来，告诉你——你有三个愿望。但你要非常仔细地思考你要许什么愿。在几乎所有版本中，人们都许错了愿。""这就是智能和智慧的区别。智能是那个精灵——精灵能做任何事情，你所有的梦想都能成真。但你需要智慧来选择梦想。你需要智慧来知道：我真正需要解决的是什么。"他给出了一个让人沉默的数据：目前AI公司在让AI更强大的预算和让AI更安全的预算之间，大约是100比1。"地球上没有任何其他行业是这样运作的。我们不会容忍能源行业、制药行业、汽车行业这么做。但这就是AI行业正在发生的事。"赫拉利的结论不含技术方案，而是一个文明的自我审视："我希望人类能迎接这个挑战——设计得当，不至于失控。我希望他们能把这称为'智慧革命'。"本文基于EDP 50周年庆典晚宴上尤瓦尔·诺亚·赫拉利与《金融时报》记者Tom Parker的对话撰写。赫拉利是《人类简史》《未来简史》《Nexus》的作者，以其对历史、技术和人类未来的宏大叙事闻名于世。来源： https://www.youtube.com/watch?v=_V_ed5fuexA
夜雨聆风