
"最危险的根本不是AI抢了你的工作让你没饭吃——最危险的是,有一天你不工作也能吃很好,什么都帮你安排妥了,整个社会顺了,然后人就完了。"——刘慈欣,在一次对谈中如是说
如果你仔细回想过去两年自己的变化,可能会发现一个微妙但确定的趋势:
你越来越少"亲自"做决定了。
导航替你选最快的路,算法替你决定下一顿吃什么,AI助手替你起草回复、整理会议摘要、甚至替你构思方案。一开始你觉得这是解放——终于不用在琐事上消耗脑力了。可某天深夜你忽然意识到:那个"亲自琢磨、亲自犯难、亲自试错"的你,好像正在变薄。
这不是阴谋论,也不是反技术怀旧。这是一个正在安静发生的问题——当AI把生活打理得太好,人类会不会自愿走进一个文明的"安乐窝",然后在安逸里,把文明最宝贵的东西一点点交出去?
一、"消灭"人类的不是AI的恶意,而是我们的舒适
刘慈欣多年前跟潘石屹的一场对谈里,说过一段后来被广泛引用的话:
未来最危险的情景不是AI造反、不是机器人拿枪指着你——而是人们找到一种新的分配机制和治理模式,让所有人都不用工作也啥都有。一旦掉进去,人类文化将失去活力,"这个坑你很难爬出来"。
这段话之所以震撼,是因为它换了一个提问方式:
我们习惯性担心的是——AI会不会取代我们?
但它真正要问的是——如果AI太好用了、太舒适了,我们还愿不愿意继续当"人"?
注意这里"取代"的含义变了。AI不需要毁灭人类肉体,它只需要让人类自愿交出运作社会的操盘权,退化为一个纯粹的"消费者"和"被服务对象"。你还在吃喝玩乐,但你对世界怎么运转、为什么这么运转,已经既不理解也不关心。你没有被消灭——你是被"安乐死"了,文明的安乐死。
二、从"认知卸载"到"主体性流失":陷阱的第一层,是悄悄变笨
最先流失的,不是饭碗,是心智的肌肉。
诺丁汉特伦特大学学者安东尼奥·塞雷拉指出:当人类过度依赖生成式AI工具时,倾向于选"快解"而放弃需要深入推演的"慢思",久而久之,批判性思维和语言创造力的锻炼机会被跳过,决策能力被助长出的惰性侵蚀。
这还不是最关键的。更隐蔽的是——你把"定义问题"的权力也交出去了。
波兹曼在《媒介即隐喻》里提示过一个规律:媒介不只是传信息的管道,它会重塑你的思维结构。今天,AI Agent成了你和世界之间的主导媒介,它的"即时答案"和"精炼摘要"无形中变成了你认知的天花板。你开始习惯不经推导的结论,习惯被动接受算法喂过来的逻辑。
结果就是学界所说的认知卸载(Cognitive Offloading)→认知萎缩的路径:
- 主动思考(我要搞清楚这件事的因果链)↓
- 被动消费(给我一个可执行的方案就行)↓
- 丧失定义问题的能力(连"哪里不对劲"都说不上来)
当一个人不再需要为构建逻辑而挣扎,他就失去了追问"为什么"这件事本身的动力——而追问"为什么",恰恰是五千年来人类文明唯一真正的发动机。
三、"交出操盘权"的第二层:从劳动的异化到治理的隐退
再看更深一层。
AI Agent 2026年已经在很多企业里从"聊天框"升级为"数字员工"——自主规划路径、发邮件、跑代码、做排程,甚至参与商业决策。 沿着这条路往下走,效率当然越来越高,但人类的角色在不知不觉中滑动:
创造者 → 审批者 → 观测者 → 数据燃料提供者
马克思说的"异化",经典场景是工人不掌控流水线、不理解机器。而在AI语境下,异化的新版本是:你不掌控治理逻辑、不理解算法目标函数、甚至连"供电调度里人是不是硬约束"这种问题都进不了公众讨论框。
人民网在今年两会上的一则锐评说得很准:
"AI不再只是被动响应工具,而是升级为参与决策、影响行为的协作者……当用户无法对AI操作全程知情、质疑、中止,所谓'智能'便走向人的对立面,成为对主体性的隐蔽侵蚀。"
真正的危险不是AI有了意志,而是人类在舒适中放弃了行使意志的习惯。
四、那少数人会坚持追求科学和艺术的——是的,但"大多数人"怎么办?
刘慈欣的话里有一个冷峻的判断:
"有一小部分人会这样做,但大多数人不会。大多数人自我满足了就不会再有创造力了,只会沉沦和堕落下去。"
这一点必须正视。历史上每一次技术解放,确实催生了新的艺术和探索——但那建立在大量人被甩出去、痛苦地寻找新意义的前提上。如果连"被甩出去的痛苦"都被AI温柔地垫上了缓冲垫呢?如果连"无聊"都被算法精准填满呢?
安逸不一定杀死天才,但安逸会杀死平均人的微量进取心。而文明的活力,靠的不是天才的尖峰,是整个底座的张力。
五、出路在哪?不是拒绝AI,而是守住三条边界
说这些,绝不是号召"关停AI"或退回石器时代。工具无罪,问题在用法和人自己。
学术界和政策界目前在两条线上形成共识:
① 必须划定"人必须在场"的硬边界
哪些场景必须人工终审、哪些决策必须责任到人、哪些领域AI只能辅助不能接管——这不是技术问题,是文明底线。人民网措辞很明确:"人工智能研发可以探索'无界',但其应用必须'有界'。"
② 教育的核心要从"知识搬运"转向"认知主权"
万维钢在论述AI时代学习方法时强调:坚决反对用AI"总结一本书"代替人的内化过程——你得自己读、自己质疑、自己整合,知识才算你的。 北京师范大学刘孝廷教授亦指出,AI时代更根本的危机是"人学危机"——人不能再靠外在劳动定义自己,就必须转向内在精神实践的重建。
③ 守住那个"非算法可算"的东西
人民日报的评论点出了一个朴素但致命的区分:AI可以模仿情感反应、生成漂亮文字,但它没有"痛""悔""憾""爱"——那些不完美的、不可优化的、要人付出代价去承担的东西,才是人性最后的堡垒。
结语:文明不是被打败的,是躺赢输掉的
人类历史上从来没有一个时刻,像今天这样有能力把"活着"这件最难的事,变得这么顺滑。
但也正因如此,警惕才比以往任何时代都重要。
那个陷阱没有尖牙也没有铁栏,它铺着天鹅绒——叫"什么都帮你搞定"。你走进去的时候甚至还挺开心,手里拿着AI推荐的奶茶,刷着AI精选的信息流,心想"这才叫进步"。
而文明的心跳,就在这份"什么都搞定"的安静里,慢了一拍,又一拍。
我们要的从来不是反AI,我们要的是:再舒服,也得把方向盘留在自己手里。

夜雨聆风