赫拉利牛津演讲:AI会入侵人类文明的操作系统吗?(日更 100/365)

今天和儿子一起看完了《人类简史》作者，历史学家赫拉利在他的母校牛津大学的一个演讲视频。赫拉利这次演讲的标题是《当一个非人类智能入侵了文明的操作系统会发生什么？》，他提出了一个骇人听闻的观点，AI必将入侵人类的文明操作系统，而我们可能无能为力。

推论基础是他在之前的著作中表达过的观点，他认为可以讲述故事是人类和其他物种不同的根本原因。因为具备讲述故事的能力，所以人类才可以实现陌生人之间的大规模协作，而正是这样的协作创造了文明。

那么文明的基础是什么呢？是官僚结构（bureaucracy），这个世界的运转机制都是建立在各种官僚结构的基础之上，不论是政府、宗教、金融还是法律。官僚结构的核心价值是建立信任，有了信任，人类的大规模协作才有了基础。那么官僚机构是如何运作的呢？依赖于语言和文本。

而今天对世界产生巨大影响的 AI，正是建立在语言基础上的大语言模型，所以语言是 AI 最擅长的东西。在现在的大语言模型出现之前，基于推荐算法的社交媒体（Meta、Tiktok、抖音）等，已经证明了，算法将如何影响我们的社交和信息输入。而当不断进化的大语言模型更多介入人类的文明系统时，AI 必将按照它的逻辑自主的对人类文明系统进行改造，因为 AI 已经进入了 Agent 时代，Agent 最大的特点就是有自主判断和行动能力，而不是像程序一样只能在框架内行动。

对于2026年出生的孩子，他的语言学习和对世界的了解，可能都会全方位受到 AI 的影响，而这自然也会影响他的世界观，而这显然就是一种AI对文明操作系统的入侵。

那我们应该如何应对这个可能终将到来的情况？赫拉利的建议是，我们需要超越语言，去思考语言之上的东西。当我们说每一句话时，去思考为什么我们会这么说，为什么我们会用这些词，去观察我们的意识。大语言模型是靠预测来吐出下一个token，而人类说出下一个词背后的原因是什么？这种联系可能是让我们脱离 AI 入侵的一种方式。

还有一个重要的事情是，建立真实的人际关系，这也是 AI 取代不了的。在有官僚体制出现之前的数十万年里，人类就已经有人际交往了，只是可能在很小的家庭或者族群里产生，但是这也是人类最原始的本能和需要。AI 可以入侵现代文明的操作系统，但是却无法替代人与人在现实中真实的交往和互动以及情感的链接。当父母与孩子之间共同完成一次深度对话，当孩子之间在现实世界中一起完成一次游戏，这些都是 AI 无法取代和入侵的，而这也许也是人类文明重要的火种。

看完视频之后，我问儿子：“你觉得这个人说的有道理吗？我们应该怎么办呢？”儿子跟我说，他觉得有道理，他认为应该保持和AI 的边界，他不希望被 AI 所入侵。这一刻我觉得这个视频看的真有价值，作为注定会在 AI 时代里成长起来且受到巨大影响的他，已经开始思考如何保持和 AI 合理的关系和距离了，这让我非常的欣慰。

技术进步的浪潮是无法阻挡的，但是我们永远无法回避的问题就是，在每一个浪潮下，人类独特的价值是什么？人类文明能够持续发展的基础是什么？

黄师傅，

2026.07.05