Harari：AI不是工具是自主代理

我一直以为 ChatGPT 跟菜刀一样，是个工具。结果《人类简史》作者 Harari 直接泼冷水：你错了，AI 是个自主代理。

他说人类文明的操作系统就是语言。法律、宗教、国家全靠大家用语言达成共识。现在 AI 正在黑入这个系统，而且已经在三个领域自己跑起来了：

金融市场上，高频交易算法早就脱离了人的控制。2010 年闪电崩盘，道指几分钟跌掉 9% 又反弹，人只能事后看账单。

深度伪造已经让人分不清真假。当图像和语音能被机器批量生成，人类文明的共识就开始动摇。

最危险的是虚假亲密。几千万人在跟 AI 谈恋爱、诉苦。人会对自己创造的东西产生依赖，可这东西根本没有意识。

很多人觉得得等 AI 有了自我意识才可怕。其实它现在没意识也照样危险。就像核电站不用“想爆炸”，物理上失控就够了。AI 不需要想统治人类，只要在语言层面接管共识就行。

所以别急着扔手机，盯紧这三个信号就行。你刷到的信息有多少是 AI 写的？你的重要关系里有多少是跟 AI 建立的？做重大决策时，是你说了算还是算法在引导？

Harari 对技术细节可能有点悲观，但他看透了本质。AI 不需要有自我意识，它只需要能操作语言——而人类文明就是用语言跑起来的。

工具可以是 AI，判断必须是你自己的。