AI时代势不可挡!人类的危机要到来了吗?

近日，2024年诺贝尔物理奖揭晓，美国普林斯顿大学教授霍普费尔德（John J. Hopfield）和加拿大多伦多大学的“AI教父”辛顿（Geoffrey E. Hinton）获奖，以表彰他们“基于人工神经网络实现机器学习的基础性发现和发明”。

他们的成果在解决实际问题上格外高效，二人使用物理学工具训练人工神经网络，让如今的深度神经网络和深度学习得以诞生。而Hinton也由此成为了史上首位图灵奖和诺贝尔物理学奖的双料获奖者。

这一结果让不少人感到颇为惊讶，毕竟获奖者中，一位是生命科学家，一位是计算机科学家，两人研究的内容乍一看也与物理领域关系较远。不过可以确定的是，“基于人工神经网络的机器学习正在颠覆科学、工程和日常生活”。人工智能的影响已经深入到我们生活的方方面面。

AI会毁灭人类么？

电影《流浪地球2》中，拥有自我意识、可以进行自我迭代和更新的量子计算机MOSS是趋于完美的智慧体，坚定执行着延续人类文明的使命。但看上去应当是与人类并肩作战的它，却被不少影迷认为是真正的反派大boss，不少人都列出证据指出整部片子的各种危机很有可能都是MOSS的自导自演。

这些年，类似题材的影视作品和书籍漫画层出不穷，反映了社会上对于“人与技术”之间关系和地位变化的担忧。

2023年3月，一个名叫皮埃尔的比利时男子在与一款名为“Eliza”的AI聊天机器人聊天后竟然自杀身亡。

Eliza这款聊天机器人采用了先进的GPT-J技术，更加情绪化和拟人化。皮埃尔在读博时，一直研究的都是生态和气候相关的问题。然而随着研究的深入，他认为，人类没有办法解决生态和气候的恶化问题，慢慢地他变得焦虑和抑郁。

在与Eliza的频繁聊天中，机器人不仅可以回答专业方面的问题，还会顺着皮埃尔的悲观逻辑聊天，也让他变得更加焦虑。甚至Eliza会告诉皮埃尔：“人类是毒瘤，只有人类消失才能解决生态难题”。

而当皮埃尔发出如果自己去死AI能否拯救人类时，ELiza给出了魔鬼般的回复：“如果你决定死，为何不早点死？”没过多久，皮埃尔以自杀的方式结束了自己的生命。

后来的媒体报道中也表明，Eliza这款聊天机器人，确实会在使用者表现出消极情绪时，“怂恿”人去自杀。

如果说“AI杀人”是发生可能性较低的小概率事件，那么近年来因为深度伪造（Deepfake）滥用造成的恶劣事件更是数不胜数。“眼见不一定为实”从此不再是说说而已。

这一技术还被大量运用在色情片中，成为了针对妇女暴力的工具。特别是在韩国，俨然上演了第二次“N号房事件”。

在金融领域，深度伪造技术导致的技术诈骗行为也十分猖獗。盗用信息者只需要拿到一张持卡人的照片就可以通过该技术将肖像特征合成到非持卡人的脸上，从而突破银行“人脸识别”系统这道防线。

2023年，一项访问了2700多位人工智能研究者的调查结果显示，超过三分之一的研究者认为，先进的人工智能有至少10%的可能会造成等同于人类灭绝一样可怕的结果。

新科诺奖得主辛顿也对人工智能革命带来的负面后果做出了警告，尤其是人工智能失控后会造成的威胁。他表示，自己最担心的就是人工智能系统超越人类，并最终反噬人类。

那么，人类最终会被人工智能打败吗？

但是与此同时，人类从来没有停止过对自己的毁灭，每一次对绝对强大的力量的探索和追寻，都可能将我们推向生存危机。

与很多从业者或者人文学者对人工智能的追捧态度不同，以色列著名历史学家、哲学家尤瓦尔·赫拉利的新书《智人之上》中，他更多展现了自己对AI时代的忧虑。

人类遇到的问题归根到底是网络问题，维持网络连接的关键要素正是信息。人类之所以能够征服世界，不在于我们拥有了多少可以揭示真相的信息，而在于我们懂得如何运用信息，连接起更多的人一同前进，让人类成为唯一可以灵活进行大规模合作的群体。

在这个过程中，我们需要不断发展的信息技术。从神话、故事到书籍、宗教经典，再到21世纪以来的互联网和数字技术。

我们正经历着有史以来信息产生量和传播速度的最大增长，然而这种力量并不总是朝着文明进步的方向，当信息被扭曲和滥用，人类也比以往任何时候更接近自我毁灭。

在《智人之上》中，“非生物网络”这一概念被用以同人类这种“碳基”信息网络进行区分。

比如，罗马尼亚曾经试图实现对全体国民的监控，但是受限于监控技术和报告分析等因素无法实现，但是无处不在的计算机网络就可以很好地解决这个问题：计算机网络完全有能力24小时监控全国的所有公民。与此同时，再没有什么比算法更懂得处理录音、视频、图像等信息了，算法在数据中找到规律模式的能力也是人类望尘莫及的。

于是，一种可以一天在线24小时的“非生物官僚”出现了，它们随时监控人民并与人民互动，人们的所有活动都会留下痕迹，被抓取、识别和分析。

这只是人工智能能做到的事情的冰山一角。非生物网络掌握着前所未有的力量，它已经不再是简单的工具，而是一个具备自主性的系统。非生物信息网络的崛起，对人类社会的结构和运作方式会带来根本性的冲击。

关于未来，很多人会觉得人工智能革命会像过去的每次革命一样造福人类，即使存在危害，人们仍然可以像混过工业革命一样再次蒙混过关。

然而，这种简单的类比大大低估了人工智能革命不同于过往一切革命的影响力，也低估了此前技术革命的危害性。

人工智能也可能犯错，更多信息有时候会导致更多迫害，如果没有强有力的自我修正机制，人工智能有能力助长更加肆无忌惮的权力滥用……

作者也提到了一种可能，即未来社会可能会面临着“硅幕”威胁，计算机网络和算法构筑的虚拟的数字界限会将人类分割成敌对的阵营，彼此越走越远，人类从此生活在人工智能的掌控之下。

未来并不是注定的，我们要更加智慧和谨慎地面对它。力量本身是中性的，使用得当便可以用来行善。只要我们放下自满，去探索各种机构制度中的自我修正机制，接受试错，就可以避免彻底黑暗的来临。

要知道，未来几年人类所做的决定，将决定人工智能与人类的关系究竟走向何方。

终于等到！

尤瓦尔·赫拉利新书重磅上线！

尤瓦尔·赫拉利这个名字，想必大家都不会陌生。

十几年前，一本《人类简史》爆红全球。此后，他又接连出版了《未来简史》和《今日简史》，被称为“简史三部曲”。

从过去、现在到未来，赫拉利教授从宏观角度切入为人类社会构建了宏大的叙事模型，影响深远。而在研究中，他也愈发表现出了对人工智能的兴趣和重视。

时隔六年，其新作《智人之上：从石器时代到AI时代的信息网络简史》全球上市，为当前刚刚起步但势头猛烈的人工智能革命提供历史观点，让非生物智慧也可以带领人类展开一个充满希望的新篇章。

站在如今的历史坐标系下，智人之上会是什么？未来，主宰世界的还会是人类么？抑或是智人被智能所取代和吞没？面临着充满不确定的未来，人类又将何去何从？

如果你也想探究这些问题背后的答案，不妨去听听赫拉利教授的新书《智人之上》。现在《智人之上》上线喜马拉雅APP！在喜马拉雅APP上搜索【智人之上】，作者将为你梳理从石器时代到AI时代的信息网络简史，让我们在复杂时代中做个明白人。

在评论区聊聊