ARTICLE · 990272
当AI开始替人思考,上帝还会笑吗?——比盖茨警告更严峻的后果是错位!
当AI开始替人思考,上帝还会笑吗?——比盖茨警告更严峻的后果是错位!
人类一思考，上帝就发笑。当AI开始替人思考，上帝还会笑吗？ 比尔·盖茨最近发出长文警示：人工智能带来的改变，会远超个人电脑、互联网曾经带来的冲击。 大多数人讨论AI，总在聊算力有多强、哪些岗位会消失、大国之间的技术竞赛。但很少有人追问一个更根本的问题：AI，到底在重塑人类的什么？ 这篇文章想探讨这个很复杂的问题：当AI开始替人思考，人类社会的底层结构会发生什么变化。 不一定正确，只是希望引起大家的讨论。 人类之所以成为人，最珍贵的内核，不是体力，不是寿命，而是思想。 所以，人们对轴心时代报以最大的敬意。 过去所有技术，本质上都是人的延伸。锤子延伸手掌，望远镜延伸眼睛，汽车延伸腿脚，普通电脑延伸记忆与计算。工具负责执行，思考、判断、创造的源头，始终牢牢攥在人的手里。 有兴趣的朋友，可以看看20世纪加拿大原创媒介理论家，思想家马歇尔·麦克卢汉于1964年发表的这本书。 哪怕是互联网，也只是加快了信息传播的速度和范围——产出想法的，依旧是人。 但AI跳出了这套逻辑。它第一次，直接介入了思想生产本身。 我们常说"经济基础决定上层建筑"。过去的技术革新，大多只是提升生产力，让干活更快、产出更多，并没有动摇"谁来思考、谁来创造"的底层逻辑。 生成式AI不一样，它直接闯入思想生产的环节，重塑生产关系，进而撬动整个经济基础。 盖茨所说的动荡，主要是就业岗位消失、批判性思维消失以及安全问题。实际上，经济基础和上层建筑的巨大变化，才是真正的动荡。 让我们得先搞清楚：在AI到来之前，思想在整套生产关系里，到底处在什么位置？这样我们才能更好的理解AI的冲击。 我想，很多人有一个错觉： 古代农业社会拼土地和劳力，工业社会拼机器和原料，思想好像只是读书人的事，不直接参与生产。 也就是说，思想只是上层建筑。 其实并非如此。 思想一直深嵌在生产关系里，只是在过去思想不能直接变成产品，它主要发挥"组织、赋能、分配"的作用，必须依附物质生产。 农业帝国时代：思想不生产一粒米，但决定粮食怎么分配。 农民汗滴禾下土种出粮食，但谁交税、谁拥有土地、官僚凭什么收税、豪强凭什么占有佃户的劳动——背后全是思想构建出来的秩序。宗法伦理、等级观念、儒家礼教，定义了什么是合理的占有、什么是合理的服从。郡县制就是对古代中国影响最核心的思想。 手工业时代：思想藏在手艺里面。 工匠的技艺、经验诀窍，本质也是思想。但在行会师徒制度下，思想依附人的身体——你要得到这门手艺，就得拜师，人在哪，技术就在哪。你买的是器物，不是单独买"想法"。 举一个当代的例子。广东海丰梅陇镇是"中国首饰之都"，可塘镇供应全球约70%的水晶珠宝，但设计、品牌、资本全在一百多公里外的深圳水贝。两地分工很清楚：深圳接单、出设计图，海丰的匠人手工做出来。 为什么生产必须在海丰？因为起版、镶嵌、打磨这些关键手艺，都在老艺人的手上和身体里，不是写在说明书里的。设计图可以用网络传，但把图变成实物的技艺传不了——你得找到这个人，让他亲手做。上世纪80年代以来，很多海丰匠人在深圳珠宝厂当学徒，学会了再回海丰开厂，技术跟着人走。 现在梅陇已经用3D打印取代手工起版了，但镶嵌、打磨这些核心环节，还是离不开老艺人的手。自动化从外围往里蚕食，但最核心的手艺，至今还锁在人的身体里。工业时代：思想分成两类。一类是科学技术——牛顿力学、热力学、机械原理，变成专利、图纸，开始可以商品化，但依然服务于物质生产，图纸必须变成机器才能产生价值。另一类是社会组织思想——企业管理制度、科层组织、市场规则、法律产权，搭建了整套生产关系，决定人与人怎么协作、剩余归谁。 知识经济时代（AI之前）：思想本身成为商品，但仍绑定人。文案、策划、设计、剧本、咨询报告，思想本身直接变成商品，大脑就是核心生产资料。但有一个硬约束：思想的产出高度绑定活生生的人。一份好方案，来源于这个人的阅历、思考、体验。要获得思想产品，你就要雇佣这个人。 AI出现之前几千年的共性：思想非常重要，它构建秩序、制定规则、改进技术；但是思想不能脱离人独立大规模生产，要么依附土地权力，要么依附手艺匠人，要么依附知识劳动者本人。 物质生产始终是底盘，思想更多是放大器、组织者、规则制定者。 这里有一个问题需要澄清：按照"经济基础决定上层建筑"，思想到底算哪一边？ 先把概念说清楚：经济基础，是生产关系的总和——生产资料归谁、社会怎么分工、劳动剩余怎么分配。上层建筑，是制度、法律、宗教、道德、哲学、文化、意识形态。 按经典定义，观念形态的思想属于上层建筑。 但现实中，思想不是只乖乖待在上层建筑，它会向下渗透，甚至部分嵌入生产过程本身。 需要注意，思想类型有两类，作用不同。 第一类，意识形态思想——属于上层建筑。比如价值观、伦理、社会辩护。"君权神授""三纲五常"这类思想，不直接种地、不制造商品，它解释为什么有的人交税、有的人收税，论证现有秩序天经地义。它的作用是辩护、固化现有的生产关系。 第二类，技术知识、工艺、组织管理思想——属于生产力，嵌入经济基础运行。冶炼技术是人的思想总结，却能造出农具；工厂管理制度是人的思想创造，直接决定工厂内部分工和剩余分配。这类思想已经不是单纯观念，而是生产力、生产关系的构成要素。 现代化的过程，其实就是第二类思想越来越重要的过程，AI就是证明。 过去很多人把所有"思想"一股脑归为上层建筑，这不完全正确。更准确的说法是：思想分两类，一类在上层建筑里辩护秩序，一类在经济基础里参与生产。 而在AI之前，哪怕是生产性的技术、管理思想，也有一个硬性约束：它不能脱离人的大脑独立存在。手艺靠匠人，技术靠工程师，管理靠管理者。思想作为生产力要素，寄居在人的身体里。 理解了上面的铺垫，AI的冲击就清楚了。它不是只冲击某一个层面，而是同时从经济基础和上层建筑两个方向发力。 所以，动荡是必然的，甚至比盖茨担心的还要严重。 
旧的经济基础—上层建筑结构，正在被AI扰动，向新的社会结构演化。 经济基础层面，已经发生了三个根本变化。 第一，新生产资料出现。大模型、算力、高质量数据集，成为脑力生产的核心生产资料。这套生产资料集中在少数拥有技术和资本的主体手里。过去脑力劳动者最大的资本是自己的大脑和长年积累的知识，现在这套资本的权重被稀释了。 第二，劳动形态重构。传统脑力劳动者，一部分转向源头洞察、提出真问题；另一部分转为提示、校验、审核AI输出。思想产品可以大规模批量生产，生产成本断崖式下跌。 第三，剩余分配逻辑改变。思想成果不再完全来源于劳动者的人脑。价值该归谁？模型开发者、算力持有者、提示词使用者，还是原始数据的提供者？旧的劳资分配规则已经对不上现实。 上层建筑层面，同样在剧烈震动。 法律层面，AI生成内容版权归谁？训练数据能不能使用人类作品？旧著作权框架失灵。深度思考外包之后，人的价值如何定义？教育层面，过去教育的核心目标之一是训练记忆、写作、推演，现在很多基础脑力训练可以交给AI，教育目标被迫重构。人的自我认知层面，过去"能思考、能创造"是人核心价值的来源，现在AI也能输出创造，人的自我认知发生动摇。 旧的匹配关系被打破了。现在处于一个错位过渡期：经济基础已经开始变，上层建筑在后面追赶。 红皇后效应会加速这一进程。 红皇后说"你必须拼命奔跑，才能停在原地"。——《爱丽丝镜中奇遇记》 现在，AI普遍被企业用用于降本增效，一旦有企业这么做，同行就必须跟进，否则就会被淘汰。 AI从可选项变成了生存必选项，整个行业陷入无休止的加速竞赛。这也是经济内卷的根源之一。 经济基础在竞争压力下自我加速，但法律、伦理、教育的调整速度跟不上——鸿沟越拉越大。这就是钟晱晱提出的问题。 这也让我们重新理解"超级对齐"。最初，它被理解为纯技术问题：让AI的目标服从人类价值。但放到社会结构视角，真正的超级对齐不只是算法和人的价值观对齐，更是AI催生的新经济基础，与法律、伦理、分配制度这套上层建筑完成对齐。 即便算法层面把模型安全约束做到极致，如果生产资料被垄断、收益分配规则缺失，红皇后效应下的商业竞争压力依旧会消解技术安全的努力。 答案是：不是会不会，而是正在发生，只是尚未定型。 新的经济基础正在萌芽。平台经济就是显著的表征。 新经济基础不是彻底推翻旧体系，而是叠加、改造旧体系：实体工业、农业依然存在，但新增了大规模AI脑力生产这一板块。 算力、模型、数据成为新的核心生产资料，劳动形态和分配逻辑随之改变。 与之配套的新上层建筑，也在被迫追赶，但速度显然不够快。旧规则已经不够用，完整的新规则还没建立完成。 动荡不可避免。 但这里非常关键：新的经济—上层建筑组合，不是技术自动给定的，不是AI决定结局，而是人类制度选择的结果。 这样看来，最坏的结果似乎可以避免。前提是AI受到约束。 两条路径摆在面前： 路径A：资本主导的AI经济基础。算力、模型高度集中于少数企业。脑力生产高度依赖AI，大量普通脑力劳动者被边缘化。对应的上层建筑会适配这套现实：版权、规则偏向模型持有方；社会价值导向把效率、产出放在第一位。人的原创思考、生命体验变成小众奢侈品。 路径B：社会化约束下的AI经济基础。通过公共政策、法律约束算力与模型的垄断；明确数据权益、AI产出收益分配；上层建筑主动确立人的主体性——AI是工具，原生体验、人的价值判断、生命体验才是最高价值。AI承担重复脑力劳动，把人解放出来做独属于人的创造。 AI只是生产力，它只提供可能性，不会自动导出某一套社会制度。 回顾人类技术史，工具一直在改造人的体力。而AI，第一次直接触碰人类的思想。 它不只是一款提升效率的工具。它把生产性思想从人的大脑里剥离出来，改写脑力劳动的生产关系，搅动整个社会的经济基础；同时冲击法律、伦理、教育和人的自我认知，动摇旧的上层建筑。 它不会自动带来一个更公平的社会，也不会自动消灭资本主义。它只是把可能性打开，把矛盾放大。 技术本身没有善恶。未来走向何方，选择权始终在人类手上：我们是把思考拱手外包，还是守住思想这份人类最核心的禀赋；是让算力和模型成为少数人的资本，还是让它成为服务所有人的工具。 这个选择，才是盖茨警告背后真正的问题。 
注：图片均由AI生成 城乡关系两千年：帝国如何“不给中间商赚差价” 思想的奔流：中国精神三次转向的经济根基
推荐语：当思想可以被批量生产，人类该守住什么？
一、人类最核心的东西，是思想
二、思想在生产关系中扮演什么角色
三、思想到底是经济基础，还是上层建筑？
四、AI同时冲击经济基础和上层建筑
算法对齐解决的是"AI想干什么"，经济基础与上层建筑的对齐解决的是"AI为谁服务、收益归谁、边界在哪里"。前者是局部技术手段，后者才是社会层面完整意义上的对齐。
五、会不会形成一套新的经济基础和上层建筑
结尾