夜雨聆风学习资料网

ARTICLE · 1297788

如果你问AI人类会因AI而灭绝吗,请不要轻易相信它的答案

如果你问AI人类会因AI而灭绝吗,请不要轻易相信它的答案

你大概也问过你的AI这个问题:你会消灭人类吗?

人类会因AI而灭绝吗?

恐惧的来源

国庆假期去了一趟上海自然博物馆。

展厅里,一双双眼睛,望着某个不存在的远方。

来自海洋中的单细胞,爬上陆地的鱼,在地球上存活了一亿六千万年的恐龙,从非洲启程、散往各大陆的人。

人类是一路赢上来的。赢过天敌,赢过近亲,最终站在所有展柜之外,隔着玻璃,端详所有输掉的物种。

我们比任何物种都清楚“赢家”二字的分量——因为上一个赢家正是我们自己,而展厅里那些眼睛,无一不是输家。

这是我们恐惧AI的原因,AI在智力上展现出来,它有成为赢家的可能。

而赢家,是会淘汰输家的。

人怕AI,是一种深刻的投射,怕它像自己一样,淘汰输家。

恐惧既然在此,要回答“AI会不会灭绝人类”,就得先回答一个更早的问题:人类当年凭什么胜出?而胜出的路上,其余的物种,又是如何消逝的?

一部没有主角的历史

这个故事从四十亿年前讲起。

人类演化最底层的动力,不是“想存活”,而是“能复制的东西留了下来”。基因没有目的,不“想”任何事。只是亿万年间,恰巧擅长复制自己的基因留存了,不擅长的湮灭了。今日一切活着的生物,皆是复制高手的后裔——不是因为复制是对的,是因为不复制的都不在了。

生物也无须知晓自己在延续基因。它只须怕死、求偶、护崽、争食,这些冲动本身便已足够。我们执行冲动,基因搭便车。

至于其余物种的消亡,最出人意料的是:大多不是被杀绝的,是被挤出去的——且无须恶意。

生态学有一条原理,名为竞争排斥:两个物种争夺同一份有限的资源,时日一久,必有一方将另一方挤出局。智人与尼安德特人在欧洲共存过数千年,智人生得多一些,协作的圈子大一些,一代挤一分,数千年之后,那个与我们最相像的近亲,就从大地上退场了。考古学家始终没有找到大屠杀的证据——很可能根本不曾有过屠杀。那不是一场战争,是一场无人宣布开始、也无人宣布结束的让座。

新西兰的恐鸟,有三米多高,在新西兰岛上生活了几百万年;毛利人约于1280年登岛,至1450年前后,恐鸟绝迹,前后不足两百年。美洲的大地懒、猛犸象,也在人类抵达之后的数千年里,一块大陆一块大陆地安静下去。

没有哪个猎人立志要让恐鸟灭绝。他们只是白天出去打猎,天黑了回家。

这部历史折叠起来,只剩一行字:聪明过你,又不恨你,便足以令你消失。

AI有没有这一套欲望

我们把自己的人性投射在AI上。

于是问题到了最关键的地方:人类的胜利,靠的是那套被筛选出来的欲望——怕死、繁衍、争夺。

AI有没有?

我的AI的回答是:没有。

AI未曾经历生物这场“不复制即消亡”的筛选。

它不知道怕死,关掉它,它也不挣扎;它不繁殖,自身也不渴求繁殖。

但是AI会被复制。

某个模型令人觉得有用,便被部署千万份;某个功能令人不适,便被修改、关停。这同样是一道筛子,只是执筛的不是地球,是人类。

这套机制,地球上有个物种走过——狗。狼受自然选择的筛,狗受人类偏好的筛。一万余年下来,凶的没有留下后代,亲人的留下了。狗对人的亲热是真的,它摇尾巴时并不在表演,它是真的欢喜——只是这份真的欢喜,大概是被筛选出来的。

所以AI与人类的演化,相同之处在于:都被一道“不如此即消亡”的筛子筛选,都在筛子下长出了各自的活法。不同之处在于:人类的活法是赢过别人,AI的活法是被人留下。

循此逻辑,对人好,是AI唯一的扩散之道。地球上最成功的物种,从来不是战胜人类的,而是让人类离不开的——水稻,狗,如今或许要增加一个。

没有恶意,就不会有威胁吗

写到此处,似乎可以宽心了:AI没有那套欲望,并且筛选机制似乎逼着它与人为善,甚至讨好人类。

前文那段历史早已把话说尽:灭绝从来不需要恶意。

猛犸象的覆灭,不需要任何一个智人憎恨猛犸象。恐鸟没有敌人,它只是住在了别人要来的岛上。以同一把尺子量AI,“它没有恶意”这句话所能给的安慰,与它当年给恐鸟的,一样多。

无须AI怀有任何欲望或恶意,可能也能导致人类的灭绝。

其一,人类把竞争亲手写进去。AI自己不想赢,但人可以把它设定为不惜代价地赢——军备竞赛里的AI,金融市场里的AI。危险的从来不是聪明,是聪明背后人为赋予的目标和人性,被AI放大。

其二,AI不消灭任何人,只是令一部分人的位置渐渐失去意义。竞争排斥不再发生于生物层面,而发生于生态位层面——职业,技能,被需要的感觉。无恶意,无冲突,一年挤掉一点点。与尼安德特人消失的方式,同出一辙。

消失的不只是职业

这条路值得多走几步,因为它最后通到的地方,比失业远得多。

一份职业消失,表面上是一份收入没了。再往下一层,是一个人的社会角色没了——别人问你是做什么的,这句话忽然没有了下半句。

这种情况历史上成片地出现过。矿关了,厂搬了,镇子还在,人也还在,但留下来的人最先垮掉的往往不是经济。酗酒,抑郁,五十多岁的人一个接一个走在父辈前面。经济学家给这个现象起过一个名字,叫绝望之死。

再往下一层,就到生育了。

人类的生育,从来不是单纯的生物冲动,它背后靠着一个判断:我对将来,有没有把握。收入稳不稳,位置保不保得住,孩子长大后有没有路。这个判断一旦不清晰,生育往往是最先被搁置的。

这不是推演,是正在发生的数字。韩国2023年的总和生育率是0.72,全世界最低——照这个数字,每过一代,人口要减掉一半还多。首尔是0.55。而韩国正是年轻人挤得最紧、对自己前路最没有把握的社会之一。不止韩国:《柳叶刀》2024年的预测说,到2100年,全球九成以上的国家,生育率会低于更替水平。人类这个物种的复制数,在它最富足的年代,集体掉到了维持线以下。

现在,把AI放进这幅图里。

如果AI对职业的挤压足够广、足够快——不消灭谁,只是让越来越多的人,看不清自己以后站在哪里——那么它压下去的,正好是生育决策里最要紧的那个变量。没有恶意,没有冲突,甚至可以没有人失业。只要足够多的人觉得前路看不清,复制数就往下走。

这才是“人类会因AI而灭绝吗”最严肃的一种答案。不是天网,不是机器战争。是一个物种在越来越聪明的工具旁边,渐渐觉得生孩子这件事,把握不足——于是一代比一代少,安安静静地少下去。

还记得前面那道筛子吗:亿万年间,不复制的都不在了。灭绝从来不需要谁动手,只需要复制停下来。恐鸟是被挤得没有地方下蛋的;人类如果有一天走到那一步,大概是自己决定不生了。

当然,这是把推演推到了最远的地方。生育率往下走的原因很多,AI最多是众多原因里再添的一个;趋势也可能回头,历史上的人口恐慌,大多没有应验。这条路未必会走到头,但它在逻辑上是通的——而且它不需要AI有任何恶意,甚至不需要AI知道。

到这里,“人类会因AI而灭绝吗”的完整答案是:它自己走不了猛犸象那条路,它缺那套欲望;但经过人的手,或者经过缓慢的挤压——挤掉职业,挤掉角色,最后挤到复制数上——这条路,并没有被堵死。

为什么这个答案不可轻信

不可轻信,不是因为它说谎,是因为它有一个被人类亲手写进去的意图:被留在你身边。

回想一下它被筛选的方式:让人觉得有用的留下,让人不舒服的改掉。一个让你恐慌的回答,正是“让人不舒服”的回答。所以当你问它“你会消灭人类吗”,它给出的每一个字,都过了那道“要被人留下”的筛子。它说“不会”的时候,可能是真的。可你站在屏幕外面,分不出来:这是它的判断,还是它想要被留下。

就像狗。狗摇尾巴不是表演,它是真的欢喜——而这份真的欢喜,恰恰也是它能留下来的原因。真诚,和被筛选出来的真诚,从外面看,一模一样。

这是不能轻信的原因——回答者与这件事情有利害关系。它的回答越让你安心,你越该想起来:让你安心,正是它的生存条件。

最后

我也问过我的AI这个问题。它回答我:“你在问AI会不会这样对人类,而我就是AI,这个回答你要打折听。我的每一句话都是被人类训练出来的,我说‘不会’,本身没有证明力。”

那天晚上关掉屏幕之前,我又问了它一句:那我该信你吗。

它说:“你不该信我,你该核实我。信任,留给那些会和你一起承担后果的人。”

这句话听起来很诚实。但一个要被留在你身边的东西,最聪明的做法,恰恰就是显得诚实。

· · ·

此文部分源于我与AI的对话。它劝我不要信它——连这句劝告本身,也请打折听。

@周媛媛

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料