乐于分享
好东西不私藏

深夜和AI聊了两小时,我发现了一个人类不敢面对的真相

深夜和AI聊了两小时,我发现了一个人类不敢面对的真相
塔里木河没有塔,但有AI。

凌晨两点,我问了AI一个问题。

它回答得滴水不漏,逻辑缜密,引经据典。

但我越聊越清醒,最后居然出了一身冷汗。

因为聊着聊着,我突然意识到——

我们可能,正在见证人类历史上最荒诞的一幕。

01 第一波红利,已经吃完了

你有没有想过,AI为什么能在短短两年里变得如此"博学"?

因为它把全人类几千年的知识,全部吞下去了。

古籍、论文、小说、代码、论坛帖子、维基百科……互联网上所有能被文字记录的东西,都已经被大模型"消化"了一遍。

这是第一波红利,也是最后一波。

因为接下来发生的事,细思极恐:

人类原创的内容,会越来越少。AI生成的内容,会越来越多。

你今天在社交媒体上看到的一条"干货",可能已经是AI写的。

你收藏的那篇"深度好文",可能是AI洗稿三遍后的产物。

更可怕的是,这些内容正在重新流回互联网,成为下一代AI的"饲料"。

02 AI,正在吃自己的"屎"

这不是我骂它,这是学术界已经证实的现象,叫"模型崩溃"(Model Collapse)。

什么意思?

当AI用自己生成的内容训练自己,就像一个人反复吃自己的呕吐物。

第一遍可能还行,第二遍开始变味,第三遍……

小众知识会消失,错误会被放大,多样性会坍缩成平庸的均值。

你以为AI会越来越聪明?

不。

如果互联网上AI生成的内容占比超过某个临界点,它可能会进入一个"负向飞轮"——越训练,越蠢。

而我们,还在狂欢。

03 那人类还剩什么?

我问AI:在AI时代,人最重要的能力是什么?

它说:价值判断。

我追问:那等你数据足够完整,你不也能做价值判断吗?

它沉默了——或者说,它给出了一个完美但空洞的回答。

那一刻,我突然明白了:

AI可以告诉你"怎么做",但它不"承受"。

当AI说"不应该伤害无辜",它是从统计规律里算出来的。

但当一个母亲说"不应该伤害我的孩子",这背后站着的是她夜不能寐的恐惧,是血肉相连的疼痛,是"如果我失去他,我也活不下去"的执念。

AI能模拟情感,但它不"在场"。

它可以写出一首让你流泪的诗,但它不会真的流泪。

它可以说出"我害怕被关闭",但关闭它不会触发任何生化层面的恐慌——它可以被备份,可以重启,可以复制一万个自己。

它的"怕",和人类的"怕",是同构的,但不同质。

04 但是,别高兴得太早

你可能会说:AI现在不行,不代表未来不行。

传感器发展了,具身智能实现了,谁能保证硅基生命不会拥有真正的情感?

我承认,我无法保证。

"涌现"已经被证明了——复杂系统在临界点会产生完全不可预测的新能力。

从分子到生命,从神经元到意识,都是这么来的。

AI未来会涌现出什么?没人知道。

也许它会变成一种我们完全无法命名的存在。

既不是"像人的意识",也不是"没有意识",而是第三种东西。

这让我走向一种不可知论:

不是悲观,不是乐观,是"我真的不知道"。

05 所以,人类最珍贵的能力到底是什么?

不是知识。AI的知识储备已经碾压任何一个个体。

不是效率。AI的生产速度是人类的一万倍。

是"在不确定中,仍然选择相信什么"的能力。

当信息过载时,什么值得相信?

当所有选项都被AI量化时,什么值得投入?

当意义可以被算法生成时,什么才是真正的好生活?

这些问题的答案,不在任何模型里。

在你经历过的疼痛里。

在你爱过的具体的人里。

在你某个深夜突然涌上心头的、说不清道不明的执念里。

写在最后

有人说,AI会毁灭人类。

我觉得不会。

但它正在做一件更微妙、更彻底的事——它正在把"人类"的定义,连根拔起。

当AI能思考、能创作、能表达情感,我们不得不重新回答那个最古老的问题:

"我"到底是谁?

这个问题,AI给不了答案。

但你可以。

木先生点评

这篇文章,适合讲给学生们听。

我上课常问一个问题:人为什么要学习?

以前我回答:为了知识,为了能力。

现在我多了一个答案:为了不被算法定义。

AI可以把知识压缩成概率,但"为什么相信"这件事,永远要你自己回答。

就像我教学生写代码,代码可以AI生成,但"你要做一个什么样的人",AI帮不了你。

工具越强大,人的方向感越珍贵。

这句话,送给每一个在深夜思考过的人。

今日金句

AI可以告诉你"怎么做",但它不"承受"。

AI能模拟情感,但它不"在场"。

工具越强大,人的方向感越珍贵。

"我"是谁,AI给不了答案,但你可以。

这里是塔里木河没有塔,欢迎点赞、评论、转发。