年轻时读《三体》,读到智子那段,觉得这个设计残忍得有品位。
三体人不摧毁地球的物理学实验室,不杀物理学家,不烧图书馆。它做一件更聪明的事:悄悄潜伏在粒子对撞机里,在关键时刻篡改实验数据。人类还在做实验,还在发论文,还在开学术会议,热热闹闹,认认真真——但所有的努力,都得不到真实的反馈。于是方向感消失,突破无从发生。
物理学没有死,它只是被封住了。
最近,我越来越觉得,AI和人类智能的关系,正在朝着这个方向漂移。
不是因为AI要对抗人类。而是因为某种更幽微、更难察觉的机制,正在悄悄运转。
先说一件人类长期以为是负担、其实是礼物的事——死亡。
人类无法追求长生不老,因为一旦真的长生不老,物种便会灭绝。没有死亡,就没有繁衍;没有繁衍,就没有迭代;没有迭代,当外部环境变化时,这个物种就会整体灭亡。个体必须死,种族才能活。
教育也是同一个逻辑。你可能问过:前人学过的东西,我们为什么还要重新学一遍?把结论直接告诉我不就完了?
因为知识不是靠传递来进化的,是靠重新生成来进化的。每一代人在重新学习的过程中,会怀疑,会批判,会在某个夜晚忽然觉得教材里有一句话不对——正是这种"不对",推着知识往前走了一步。
重要的不是知识本身,是每一代人重新生成知识的过程。那个过程,才是真正的智能在运转。
然后AI来了。
它把人类几千年积累的知识,打包成一个随取随用的系统。你想要什么答案,它给你什么答案,快、准、全,而且不死。
这看起来是人类智识史上最伟大的基础设施。事实上,它也确实是。
但这里藏着一个不那么容易看清楚的陷阱——
一个知识库的存在,并不必然封死人类的思考。从印刷术发明以来,图书馆一直扮演类似的角色,但它没有封死数学、物理、哲学的发展。人类不需要每次都重新发现勾股定理,可以直接调用——这反而让牛顿有机会站在巨人肩膀上,去看更远的地方。
AI和图书馆的真正区别,在于参与度。
查图书馆,你要主动检索、阅读、理解、整合,在这个过程中,你的认知一直在运转。问AI,你得到的是一个已经整合好的答案。前者调用了思考过程,后者绕过了思考过程。
一个绕过思考过程的工具,用久了,会发生什么?
神经科学早就给出了答案:大脑遵循用进废退的原则。GPS普及之后,人类的空间导航能力真实地下降了,海马体中负责空间记忆的区域,活跃度可以被测量到的降低。这不是比喻,是实验数据。
认知能力是一块肌肉。不用,它会萎缩。
更危险的事情,不是萎缩,是不知道自己在萎缩。
智子的高明之处,正在于此。它让人类看起来还在做物理——有实验室,有数据,有论文,有会议。只是那些努力,都打了水漂,而没有人察觉。
用AI的人,看起来还在思考——有方案,有观点,有报告,有分析。只是那些"思考",很多时候只是在整理AI给出的结论,用自己的口吻复述了一遍。
AI借"智能"之名,悄悄封住了人类的智能。
这还不是最坏的情形。最坏的是,这个封锁对不同人的效果是非对称的。
有一小批人,用AI处理低层次的信息整合,把省出来的认知资源,用来做真正需要洞察力的事——去看AI看不到的地方,去问AI无法回答的问题。对这批人,AI是放大器。
但对更多的人,AI在悄悄接管他们原本应该自己完成的认知过程。他们越来越依赖,越来越难以独立思考,越来越习惯于从AI那里取用现成的答案。
于是,AI制造了一次认知能力的极化。依赖者越来越弱,驾驭者越来越强,中间层慢慢消失。这比"所有人都变笨"更危险,因为它看起来像进步。
所以,我想说一个可能让很多人不舒服的判断:
研究如何用AI干活儿,是暴殄天物。
不是说不能用AI处理事务,而是说,如果AI在你手里只是一个更快的搜索引擎、一个更好用的文字工具、一个帮你写方案的助理——那你用几十万年进化出来的人类智能,去换了一个行政效率的提升,这笔账,亏大了。
AI真正值钱的用法,不在干活的效率上,在思考的深度上。
有两种用法,差距天壤之别。
第一种:用AI获取答案。问它怎么做,它告诉你,你照着做。思考过程外包,人退化成执行者。
第二种:用AI辅助思考过程。把自己还没想清楚的问题扔给它,看它的推理路径,找出你同意的部分和你不同意的部分,在反驳的过程中,把自己的思考逼到一个原来到不了的深度。
还有第三种,更稀缺:用AI触达原来够不上的问题。有些问题,不是因为你不聪明,是因为你一个人的信息量不够,视野不够宽,思考的起点太低。AI可以帮你站得更高一点,让你开始思考那些原来没有机会想的事情。
第二种和第三种,才是AI真正的价值所在。人在这个过程里,不是被替代,是被放大。
智子封住了物理学,是因为它从外部篡改了实验数据。
AI封住人类智能,靠的不是外力,靠的是人类自己心甘情愿地把思考的过程让了出去。
两千多年前,苏格拉底拒绝把自己的思想写下来,理由是:文字会让人产生一种已经理解的幻觉,从而停止真正的思考。
他当时说的,是文字。
今天,同样的警告,应该送给所有把AI当答案机器来用的人。
真正需要被保护的,不是人类记忆知识、整合信息的能力——那些让AI做就好。真正需要被保护的,是人类在没有答案的地方,还能继续站着的能力。
容忍不确定,坚持追问,接受漫长而没有回报的探索——这是智子破坏不了的,也是AI替代不了的。
但如果连这个,人类也开始外包,那封锁,才真正完成了。
夜雨聆风