夜雨聆风
如果有一天，AI真的被做出来。
你要担心的，可能不是AI。
而是——做出它的人。
昨天，在 The Economist 的一档节目里，Demis Hassabis 被问了一个非常直接的问题：
如果你成功了，你将拥有接近一个国家层级的影响力。那我们是不是应该担心你？
这个问题，本质上不是在问AI。
而是在问：
当“造神能力”掌握在少数人手里，会发生什么？
如果将AGI视为人类探索宇宙本质与现实真相的终极科学工具，其发展既承载着巨大的希望，也伴随着不可忽视的风险，因此需要以“审慎乐观”的态度推进。
昨天，在最新一期的 The Economist 节目中，谷歌DeepMind首席执行官 Demis Hassabis 与Alex Hern探讨了他从事人工智能事业背后的精神根源。
当人工智能的浪潮席卷全球，我们不禁要问：站在技术巅峰的那些人，究竟是如何看待AI的未来、它的力量，以及它与人类终极命题之间的关系？
《The Economist》（《经济学人》）作家Alex Hern深入 Google DeepMind 首席执行官德米斯·哈萨比斯（Demis Hassabis）的内心世界。
这位被誉为“AI思想家”的科学家，不仅是通用人工智能（AGI）的坚定推动者，也是一位对宇宙奥秘和人类存在意义充满好奇的探索者。
一、AI的起点：不是技术野心，而是理解宇宙
从童年时期对物理的痴迷，到如今将AI视为理解现实本质的“终极工具”，哈萨比斯的视角早已超越单纯的技术范畴，延伸至哲学、宗教与科学的交汇之处。
他如何在AI带来的巨大潜力与潜在风险之间取得平衡？在激烈的全球竞争中，又如何坚持“审慎乐观”的原则？
接下来，让我们一同走进这段引人深思的对话，探寻他对AI、权力、“上帝”以及人类未来的独特见解。
本文讨论了AGI在解决医疗、能源和环境等全球性问题方面的潜力，强调了审慎的乐观态度、国际合作以及伦理标准的重要性。
哈萨比斯也回顾了自己从宗教家庭背景走向科学思维的个人历程，这段经历深刻塑造了他对AI在揭示现实奥秘中所扮演角色的理解。
文章基于原视频内容整理，彩虹之眼做了部分删减与调整。以下为完整内容：
二、当AI的创造者拥有“国家级权力”
亚历克斯·赫恩（Alex Hern）如果你真的实现了你想做的一切（暂且不谈你的老板），你个人将拥有类似一个小国领导人的权力。
那么，无论我们是否应该担心AI，我们是否也应该担心你？
哈萨比斯（Hassabis）我认为，人们需要对各个实验室的领导者自行做出判断。
现在关于每一位领导者都有大量公开信息，不同的发展路线也已经相当清晰。
我觉得还需要思考的是，这些人的动机是什么，他们为什么进入AI领域，以及为什么致力于构建这项技术。
三、AI不是产品，而是“终极科学工具”
哈萨比斯（Hassabis）对我来说，从最初开始——包括我整个职业生涯，乃至一生都在为AGI努力——包括在DeepMind过去16年的工作，甚至更早之前，都是为了将AI作为一种终极科学工具。
我只是想理解宇宙中正在发生什么，以及那些从小学习物理时就让我着迷的重大问题。
我认为AI是我表达这一追求的方式：这是我认为人类能够推进对世界理解的一种路径，并且可以将其应用于医疗、能源以及环境等真正重要的领域。
亚历克斯·赫恩（Alex Hern）我读了一本关于你的新传记，作者是塞巴斯蒂安·马拉比（Sebastian Mallaby）（他也是我们总编辑的丈夫）。
书中你对初衷的描述带有某种精神性，甚至接近宗教色彩，这一点让我印象深刻。
你提到，构建AI将帮助你理解宇宙以及你在其中的位置。
你是在浸信会（Baptist）环境中长大的。那是一种怎样的经历？宗教又是如何影响你对AI的看法的？
哈萨比斯（Hassabis）实际上，在我家里，我母亲信仰宗教，是一名浸信会信徒，而我父亲则是无神论者。
在成长过程中，我同时接触到了这两种截然不同的观点，我认为这也让我在看待问题时更加开放。
首先，我始终认为自己是一名科学家，甚至在成为企业家或技术专家之前，这一点就是核心驱动力。真正推动我前行的，是对现实本质的理解。
四、科学、宗教与哲学，最终指向同一个问题
哈萨比斯（Hassabis）最终，这一切就像一个不可思议的谜题，始终摆在我们面前。
当你开始以这样的方式思考世界——正如 Albert Einstein 和许多在他之前的科学家所说的——科学、哲学、宗教乃至艺术，其实都在试图回答同一个问题：我们在宇宙中的位置是什么？我们应该做什么？我们周围的一切是如何运作的？
我认为，这是最引人入胜的问题，也是我至今仍然痴迷的领域。而在我看来，AI是帮助我们探索这一问题的最佳工具。
亚历克斯·赫恩（Alex Hern）所以，你的同行们有时会开玩笑，甚至有些担忧地说，他们在“创造上帝”。
这种说法对你来说意味着什么？
哈萨比斯（Hassabis）我并不喜欢这种表述。在我看来，这始终是一种工具。
我们构建它的方式，就像构建望远镜或显微镜一样，是一种科学工具。人类的一个重要特征，就是我们是会制造工具的物种。
这让我感到非常震撼。看看我们仅凭一个通用的大脑，创造出了怎样的现代文明。
我认为，人类的另一个重要特征，是我们永不满足的好奇心，以及对知识的渴望。而我所做的，只是在延续这一传统——构建更强大的工具，让我们得以更深入地审视现实的结构。
五、风险、竞争与“审慎乐观”的边界
亚历克斯·赫恩（Alex Hern）但这些工具正在变得越来越强大，它们所带来的威胁也在不断增加。在这个问题上，我必须问一句：你是否仍然担心它可能会带来灾难性的后果？
哈萨比斯（Hassabis）确实，如果技术没有以正确的方式构建，出现严重问题的可能性并非为零。但如果给予足够的时间、保持足够的谨慎与专注，我是非常乐观的。我对人类的智慧充满信心。
如果最顶尖的人才共同投入其中——不仅仅是我们，还有其他公司的同行——我相信我们能够以正确且安全的方式构建它。
这是完全有可能实现的。届时，我们也将获得巨大的回报：治愈疾病、推动能源转型，以及解决当今社会面临的诸多重大挑战。
哈萨比斯（Hassabis）因此，我认为AI可能成为帮助我们解决其他所有挑战的关键技术之一。它的潜力是巨大的，但风险同样存在，而且在某种程度上，这些风险仍然是未知的。
在这种情况下，“审慎的乐观”是一种合理的态度。我乐观地相信这些问题可以被解决，也终将被解决。
但在我们逐渐接近AGI这一关键时刻时，我们必须保持谨慎，并遵循“预防原则”。这将是人类历史上最具变革性的节点之一。
亚历克斯·赫恩（Alex Hern）在你面临来自其他公司和不同政体的竞争压力时，如何在现实中坚持这种谨慎？你是否真的希望大家能够停止竞争、转向合作？
哈萨比斯（Hassabis）在当今的环境下，这确实非常困难。这并不是我在20年前开始从事这项事业时所设想的局面。
我原本更希望看到更多的合作，例如类似国际空间站那样的模式，让顶尖研究人员能够相互审视彼此的工作。
尤其是在我们逐渐接近这一“事件视界”的阶段。但现实世界并非如此。公司之间、国家之间都存在多重竞争关系。
当下的地缘政治环境也比以往更加碎片化，因此很难想象能够实现那种理想中的国际合作。但我认为，我们仍然应该努力朝这个方向推进。
六、AGI临近：一个尚未完成的使命
哈萨比斯（Hassabis）我所希望的是，随着我们逐渐接近AGI——也许只需要五年左右的时间——人们会更加清晰地意识到AI的重要性，就像过去几年所发生的那样。
这是我在20年前就已经认识到的事情，但我认为，对于大多数人来说，相关风险是在最近才逐渐显现出来的。
因此，我至少希望，领先的实验室之间能够达成某种最低限度的共识或标准，并以此作为未来进一步合作的基础。
亚历克斯·赫恩（Alex Hern）除此之外，你曾在去年获得诺贝尔奖后告诉我的一位同事，你在十几岁时就写下过一份人生计划，其中就包括获得诺贝尔奖。
现在我们是否已经来到了那个计划的终点？你是否已经完成了当初的目标？
哈萨比斯（Hassabis）你是说我是否还在遵循那份计划？那确实是一份充满野心的清单。但我认为，我要做的最重要的工作仍然在前方。
那就是我一生的使命：为人类安全地实现AGI，帮助它安全跨越终点线，并最终造福世界上的每一个人。
