认为自己能让人工智能安全的男人

总结概述

这篇文章节选自 Sebastian Mallaby 的新书《The Infinity Machine》，核心人物是 DeepMind 联合创始人 Demis Hassabis。作者把 Hassabis 塑造成一个极具张力的人：他毕生追求打造一种自己也承认可能毁灭世界的技术，并长期相信，只要自己拥有足够的道德判断、治理设计与个人影响力，就能让这项技术走向安全而有益的方向。文章追踪了 Hassabis 从理想主义安全愿景走向“现实主义者”的过程，展示这一信念是如何一步步被现实竞争、公司权力、治理失败和资本竞赛侵蚀的。

文章并不是简单赞美或批评 Hassabis，而是用他来说明 AI 安全困境的根本矛盾：一旦多个实验室、多个国家和巨额资本同时入场，任何“由一个有良知的人带领大家理性推进”的 singleton 幻想都会被打碎。Hassabis 最终并没有找到能稳稳约束 AI 竞争的制度性方案，他能寄望的，只剩自己在牌桌上还占有一席之地。

文章基本事实

•Demis Hassabis 是 DeepMind 联合创始人之一，长期把打造强大 AI 视为自己的人生使命。

•他与 DeepMind 联合创始人 Shane Legg 相识于一场关于 AI 安全的讲座。

•他曾在 Singularity 峰会上争取 Peter Thiel 投资，也曾用“火星殖民也挡不住恶意超级智能”说服 Elon Musk。

•2014 年 Google 收购 DeepMind 时，Hassabis 要求设置对技术的额外控制、独立监督委员会，并禁止军事用途。

•Google 最终接受了这些异常条件，因为 DeepMind 已聚集世界顶尖 AI 人才。

•Hassabis 曾设想把顶级研究员和哲学家带到隐秘地堡里，为全人类安全地诞生超级智能。

•2015 年，Musk 主持了一次由 DeepMind 发起的秘密聚会，但随后反而与 Sam Altman 联手创办了 OpenAI。

•2016 年，DeepMind 通过 AlphaGo 战胜顶级围棋棋手李世石，使 AI 时间线骤然收紧。

•2020 年，DeepMind 以蛋白质结构预测系统取得重大科学突破，Hassabis 与同事共享诺贝尔化学奖。

•2022 年 ChatGPT 发布后，Hassabis 明确表示“这是战时”，Google 和 OpenAI 进入正面竞速。

核心观点/意见/看法

✓Hassabis 早期真正相信，可以通过理想主义治理框架确保强大 AI 安全诞生。

✓这种理想主义最终被竞争现实摧毁：人类不会因为超级技术前景而自动团结，反而会嫉妒、竞争和复制。

✓把 AI 安全寄托在公司治理委员会或单个“好人”身上，最终都显得过于脆弱。

✓Hassabis 从“制度保障安全”转向“自己坐在决策桌旁影响结果”，是一种理想主义退潮后的现实主义自救。

✓文章认为，在国家约束真正出现之前，像 Hassabis 这样“相对善意的人”或许已经是世界能得到的最薄弱安慰。

文章具体内容整理

1) Hassabis 从一开始就把 AI 风险当真

•他不是事后才谈安全，而是在创业、融资和招募合作者时就不断围绕“超级智能可能毁灭世界”的前提思考。

•他把打造强大 AI 与控制其危险性视为不可分割的双重使命，否则自己的毕生工作就失去道德合法性。

•因此，在 Google 收购 DeepMind 时，他才会坚持要求额外治理机制、独立监督和军事用途禁令。

2) 他曾认真设想过一种“安全超级智能修道院”

•Hassabis 想象过把最顶尖研究员、哲学家和科学家带到隐秘地堡中，为全人类安全地推动超级智能诞生。

•这种设想背后其实是一种 singleton 幻想：由一个统一、可信的组织掌握足够强的 AI，并代表人类做正确决定。

•文中甚至提到，有 DeepMind 研究员在加入公司时真心相信，未来某一天可能会被叫去摩洛哥沙漠里的秘密地点推进终局计划。

3) Musk 与 OpenAI 的出现让 singleton 幻想破产

•2015 年的秘密会议原本想把潜在竞争者拉进共同安全愿景，却反过来促成了 Musk 与 Altman 创办 OpenAI。

•作者把这一刻称为 Hassabis 安全愿景开始崩塌的节点：人类面对 Promethean 技术时，不会自动联合，反而更可能彼此提防和抢跑。

•从那以后，DeepMind 再也不可能在一个封闭而统一的架构里安全推进超级智能。

4) Hassabis 尝试过制度、安全治理和公益应用，但都受挫

•他与 Mustafa Suleyman 试图和 Google 谈判新的治理护栏，甚至考虑分拆 DeepMind，但这场博弈拖了三年也没成功。

•DeepMind 与英国 NHS 合作管理急性肾病的项目，又遭到隐私活动人士强烈反对。

•这两条线索一起说明，把非营利监管逻辑嫁接到商业科技巨头之上，现实中极其困难。

5) 最终他从理想主义者退成了“必须留在桌边的人”

•ChatGPT 发布后，Hassabis 没有选择彻底放弃聊天机器人赛道，而是把竞争定义为战争状态。

•今天的 Google 已经与他当年的愿景明显相反：它积极参与与政府、国防和资本市场相关的 AI 竞赛。

•Hassabis 最后的安全逻辑也变成了个人影响力逻辑：治理结构不可靠，那至少自己得坐在牌桌边，在关键时刻尽量做出较好的决定。

— END —