AI的两种幻觉和它能为普通人做些什么

几个月前，我写过AI的技术原理、趋势与泡沫风险（AI和人类的未来（一））的系列文章。彼时我就在文章中坦言AI存在不可避免的技术幻觉问题，不过当时的文章总体是乐观的。所以要提前说明的是，今天我写文章再提及AI幻觉，也并非对AI的发展不再乐观。

我从始至终都确信AI的发展趋势和这项技术的边界，所以今天的这篇文章其实是一种内容上的补充，而非心态和认知上的反复。毕竟目前发生的这些事情，其实在当初或多或少都有预判到。

然后这篇文章，我想送给这个世界真正的建设者们。在文章的最后我会详细说下我为什么会有如此的感情。下面我们正式开始。

AI的第一个幻觉：技术奇点并不存在

简单来说，AI的所谓技术奇点，是指AI全面、真实、不可逆的超越人类智能。就是说在任何依赖智力的任务上，单一AI完成的比任何单独的人类都更好。

这也意味着AI可以比人类更好的进行协作和组织进化，于是AI将在几乎全部依赖智力的任务中逐步实现对人类的全面替代。

我的断言是，这种情况在现实中永远不会发生。

首先是能源约束的问题。AI目前已经在疯狂消耗能源。我们不仅要看到算力的背后是电力，还要看到整个算力中心消耗掉的各种芯片、存储系统、各类通信和电源管理模块、各种硬件，还包括大量的土地和水--所有这些本质上都是低熵能源的转化。目前这场产业链的涨价潮，不是短暂波动，而是物理世界对金融幻想的无声警告。

当然，泡沫的根源除了产业链的短期炒作，也是因为目前几乎没人有认真的考虑AI的能源效率问题。而从长期视角来看，AI在跨过技术奇点之前，就必须打破物理世界的能源约束。

在现实的物理世界中，最大的约束就是能源，而人类文明繁荣的过程，就是对能源利用效率和方式的革新过程。但是在大部分时间中能源的边际成本都是递增的--开采更深的矿、铺设更远的线、冷却更热的芯，每一单位新增的算力需求，都需要付出比前一单位更多的资源。AI即便在智力上超越人类，也无法突破能源供给的边际递增律。所谓指数级的技术奇点，在热力学第一定律面前，只是数学上的美丽泡沫。

至于马斯克的太空数据中心——那不过是把"电网的瓶颈"换成了"火箭运力的瓶颈"，把"水冷"换成了"辐射散热板"，约束转移了，总量没有变。这不是能源革命，是资本故事的换壳。

更深一层的悖论在于：人类为什么要为一种终将全面替代自己的存在，发起一场能源革命？ 这不仅是物理问题，更是文明伦理的自反性困境。

人类不会为一种不可控的、终将边缘化自身主体性的存在发起能源革命。AI如果真的走向“全面替代人类”，那人类投入资源建设它的行为，就不再是技术进步，而是文明的自毁冲动。所以能源革命——如果发生——必然是在“AI为人所用”的前提下推进的，而非“AI替代人”。这恰恰意味着，技术奇点（AI超越并独立于人类）在文明动机上就被人类自身否决了。

其次是AI的技术原理决定了AI幻觉不可根除，必然需要大量的人类监督和训练工作。这意味着AI的自我进化是不可能的，于是目前宣传中的技术奇点也不可能。

我前面的文章有就这个问题做过详细的分析，有兴趣的读者可以回看之前的内容，这里就再简单说一下。

有些人认为存在AI幻觉的原因是：AI是台概率机器，所以无法完美预测。这个理解并不十分准确。

AI会出现幻觉，是因为AI的训练和推理过程，都是统计相关性的，而非因果必然性的推演。它没有人类那种先验地认定某件事为真的能力——人类可以不假思索地说“我存在”“因果律成立”，但AI永远在追问“给定这些数据，最可能的输出是什么”——它没有“不容置疑的勇气”。

它没有人类这样不容置疑的勇气，或者说既无畏又无知的精神，来树立不可辩驳、先验式的事实。它永远在“像真的”和“真的是”之间隔着一层不可逾越的障碍，这正是幻觉不可根除的根源。所以在AI的世界中没有百分百确定的东西。

这也不是缺陷，相反这是AI最大的诚实。但这也意味着：AI的工作成果永远需要人类监督和复核，AI的训练与推理永远需要人类深度参与。AI不可能独立进化出一个"自洽的真理体系"。

所以即便AI像电力一样普及，成为人人可调用的认知基础设施，它也不会是一个自我繁殖的造富机器，而是一个需要人类持续照看的、强大的工具。技术奇点——那个独立进化的、全面超越人类的智能体——在逻辑上被AI自身的结构封死了。

于是无论从物理现实还是技术现实来看，目前的技术奇点说，一个可以独立进化的，全面超越人类智能的AI智能体，永远不可能出现。AI更合理的定位就是像电力一样的，人人都可接入和调用的认知能力。这种认知能力可以帮助我们处理物理世界可计算边界内的一切问题，而可计算边界外的那些无垠的不可计算领域，将不再只是诗人的想象，而是全人类的星辰和大海。

AI的第二个幻觉：源自人类根深蒂固的认知幻觉

很多人不知道，注意力机制不仅是AI的核心技术，也是人类的认知原理。关于AI的注意力机制，我之前的文章有过详细说明，这里就不赘述，这里我主要谈的是人脑中的注意力机制。

简单的说，人脑中也存在这样一种机制，使得我们可以更有效的处理摆在我们眼前的各种任务。那些紧迫的事情，会通过注意力来得到我们更多的脑力、感官和精神力。而那些不紧迫的事情，则被我们暂时的忽略了。

于是对那些我们忽略的任务，我们会习惯性的顺从别人对这些任务的看法这是一种节省认知资源的“认知幻觉”，让我们误以为"别人已经搞定了"。

因为我们的注意力机制让我们“压根不关心这件事”，于是我们大脑会提供一种感觉良好的“认知幻觉”来降低我们对这类事情的审慎和戒备心理。

而这和AI幻觉的关系就在于，如果人类将任务外包给了AI，那人类对这项任务的注意力就会下降，于是受到人类自身的这种“认知幻觉”的影响，我们人类就会下意识地认为AI完成的挺好，从而不做审慎的复核工作。

而且更糟糕的是，人类对任务的复核也建立在对任务有充足的注意力上。于是一旦人类开始降低对某项任务的注意力，那人类对这项工作的事后复核也会慢慢变得不再专注和审慎、戒备。

所以一旦我们将任务全部外包给AI，我们就走上了一条由“认知幻觉”带来的能力甚至智力的滑坡之路。

这就是目前大众对AI好似无所不能的一种技术幻觉背后的成因。我们越觉得AI无所不能，AI就看起来“无所不能”，而实际上AI远不是无所不能。而当你意识到AI并非无所不能的时候，一定是付出了足够惨痛的现实代价。

这也是我对物理AI，特别是具身智能并不乐观的原因。因为对人性机器人来说，追求场景的通用性和任务的专用性是两条相悖的技术路线。

前者需要搭载的AI可以云端训练，在边缘推理和执行，并且采集的数据可以泛化使用，这是开放式的泛化逻辑。而后者为了保证安全和精度，数据要高冗余、本地化，要有足够多不可动摇的边界条件，这其实是闭环思维。

人类之所以能兼容这两点，不是因为我们有更敏感的身体和感官，而是因为人类难以捉摸的心灵，我们天生就是矛盾体。

我曾经听过一段话：评价一个人是否智力上乘，只看这个人能否在头脑中容纳两种截然不同的想法，但不妨其行为处事。但由GPU和存储组成的数据中心，没有这种“容纳矛盾”的元认知能力——它只能在一个优化目标函数上做梯度下降，无法在同一时刻持有并权衡两套冲突的价值体系，更不可能在矛盾中做出超越算法的、属于“人”的决断。

所以我们目前对AI能力的技术判断，是掺杂了很多我们人类自身的“认知幻觉”的，而且真正的危险在于这不是因为乐观，而是因为隐形的不负责任。我们更没法永远推卸责任。

我们真正需要做的是什么？

前几天我从苏州回滁州，因为两地相隔较近，所以为了省钱，坐的是普通火车，就是俗话说的“绿皮火车”。

这辆车从上海开往乌鲁木齐，车上挤满了人。

坐我对面的是一位三十岁，刚结束了在苏州的短期务工，返回甘肃张掖老家的青年。或许是因为对生活的乐观，脸上还显出稚嫩的神采。

他有一个三岁大的儿子，老婆在家全职带孩子。

他在苏州一共就待了二十多天，只靠着日结工资的临时工维持，每天到手只有二百出头。

我爸告诉我目前苏州的工价已经超过三百了，说他是被黑中介骗了。

我问他为什么不找正规的公司做，他说他因为自己做过胆囊手术，体检不通过，没法进厂。

他虽然有电工的手艺，但没来得及考证，再加上面生，苏州这边也没人敢用他。

他说自己去年在新疆哈密干电工，一年到头忙个不停，赚了小十万。就是太忙了，也太累了，干的人都麻了，因而总是顾不上吃饭，身体就是这样才出的问题。

我看着它猪肝色的嘴唇，说你不仅是胆囊有问题吧，他说对，我现在肝也不好。

我问他新疆那边活多吗？他说挺好干的，就是今年差一些。往年新疆干一干，家里也能顾得上，也能攒到七八万的钱。但是过不了十万。

我说你一般干什么。他说，除了工地上，做的多的就是装卸各类农产品，比如洋葱。

他真的是极为踏实、朴素、极能吃苦的中国男人。他颇为自豪的跟我说，在他刚从学校毕业那年，他曾和他爸两个人，卸完一整辆13.5米长的半挂。车上装的是水泥，我估算了重量，在不超载的情况下也有三十多吨！如果超载，可能就奔着50吨去了！

爷俩，从晚上八点开始卸，干到十二点，就为了挣那两千块的卸货钱。

他说干完后，感觉全身的骨头都碎了...

这个时候，列车员提示我要到站了，我就赶紧和他说，你要先把电工证考下来，我觉得你还是可以去苏州的，那边活多，机会多，工价高，你稳定下来后，可以把老婆孩子都接到苏州去，孩子到时候也可以在苏州读书的...

其实还有很多话想和他说，但列车很快就到站了。

这几天我就在想，我们能为了他，为了像他一样，踏实、朴素、勤劳的、真正意义上的祖国的建设者们，做些什么呢？特别是利用AI。

如果AI能帮他规避黑中介的信息差，让他做出更好的就业决策；

如果AI能替代纸质证书，实时评价他的真实技能，而不是把他挡在厂门外；

如果外骨骼技术能让他卸水泥时，不再伤及肝胆……

那AI的价值就不是"替代人类"，而是把被算法和资本挤压出生存空间的人，重新托举起来。

打破信息差，改善劳动环境，让尊严回归每一双劳作的手——这才是AI这项技术的真正意义。它不应该是一场造富的狂欢，而应该是一把让普通人活得更有底气的工具。

因为世界的未来，不在算力的巅峰，而在那些用身体扛过水泥、用双手撑起家庭的人身上。

我想，这才是AI这项技术的真正意义。

技术奇点或许永远不会来，但那个卸水泥的年轻人，他的未来必须来！