ARTICLE · 1112405
比尔·盖茨眼中的AI危机
1996 年，四十岁的比尔·盖茨坐在大卫·莱特曼的脱口秀沙发上。
被问到计算机会不会学会思考，他的回答很谨慎：
那是一个极度棘手的难题，几乎毫无进展。
莱特曼打趣道：
"我们可不想让它们思考，对吧？光想想就很吓人。"
观众笑了。
三十年后，这句玩笑成了盖茨反复重申的严肃判断。
在近期一场长篇访谈中，一个细节最能说明他的变化：
这位多年来把公共声量几乎都给了消灭脊髓灰质炎、争取国际援助的人，宣布要把发声重点转向"全力敲响 AI 的警钟"——
"这个紧迫性已经超越了我对基金会医疗健康工作的投入。"
对一个以全球健康为毕生事业的人来说，这是分量极重的优先级调整。
顺着访谈梳理下去，盖茨眼中的 AI 危机并不是一句笼统的"AI 很危险"，而是一个可以被逐层拆开的判断。
一、两次震撼：他是如何确认临界点被越过的
盖茨用来确认 AI 能力的标尺，带着很强的个人色彩。
第一次震撼，来自他亲自出的考题：
模型要在 AP 生物考试中拿到满分5分，才算证明它具备真正的阅读理解能力。
在该模型公开发布前六个月，奥特曼、布罗克曼和苏茨克维来到他家，当面展示了 5 分的成绩——
连他临时编造、防止刷题的新考题，也答得近乎完美。
第二次震撼，来自他最引以为傲的技能。
"写代码是我这辈子开发得最极致的技能"——
去年底，他看到代码模型"已经和我一样好"，在找漏洞上则彻底达到了超人类水平。
今年，这种能力进入了他最核心的决策场景。
盖茨基金会每年十月用两周做战略审查，分配约 100 亿美元预算。
一年前，"问问 AI 怎么看"在会上还是笑话；今年，多个模型将列席关键会议、彼此辩论，有时还被授权"一旦听到数据漏洞或逻辑矛盾，立即打断"。
三件事构成一条清晰的台阶：
从读懂，到写好，再到参与判断。
而每一级，AI 越过的都恰好是盖茨本人最有资格评判的领域——
这让他的判断很难被当作外行的惊叹。
二、"可怕"的来源：硅基智能没有产道
当被问到为什么当年会说"会思考的计算机很可怕"，盖茨给出了一个生物学角度的解释。
人类大脑的进化目标只是生存、繁衍和结群，却意外地能写交响乐、写代码。
但它有严酷的物理限制，比如脑容量受制于母亲产道的宽度——
这也是人类婴儿出生时格外无助的原因。
硅基智能没有这些天花板：
芯片之间没有交流壁垒，记忆不受容量限制。
在罕见病诊断上，模型把海量文献常驻记忆、捕捉任何微弱关联，今天已展现出超人类水平。
他的结论很直白：
如果无法在底层锁住控制权，人类就是在演化出一个新的智慧物种，"面对它，人类的处境就像家养的猫狗面对人类一样脆弱"。
更值得注意的是他对行业自律的判断。
DeepMind 和 OpenAI 早期都立下规约，管理层必须有权做出违背商业利益的避险决定。
但盖茨指出：
这种机制只在"全球只有一家 AI 公司"的前提下才可能起作用。
多家机构在赛跑时，任何一家停下，都不会让整个行业停下。
自律的有效性，取决于竞争者的数量。
这个判断，直接引出了他与黄仁勋的分歧。
三、与黄仁勋的分歧：不是 CEO 不负责，而是 CEO 也不知道
主持人转述了黄仁勋的观点：
产品不安全，CEO 就不该发布；
企业有能力也有责任按暂停键，资本市场和声誉会倒逼这种行为，不需要新的立法。
盖茨的回应首先落在一个事实判断上：
"人类历史上，从来没有任何一款产品像 AI 一样，其真实能力边界如此不为它的创造者所理解。"
这句话点中了"企业自决安全"论的一个隐含前提：
制造者能够判断自己的产品是否安全。
盖茨的反驳并不是说 CEO 不负责任，而是说在这项技术上，CEO 本身也不知道产品真正能做什么。
自律失效的原因不在动机，而在认知。
随后他搬出一整套类比：
制药业有药监局，航空业有联邦航空局，安全带是强制安装的。
没有哪个领域的安全，是靠灾后让作恶者破产来保障的。
而在可能的生物灾难面前，"生命伤害是不可逆的"，民事赔偿的逻辑本身就失去了意义。
对于"主流模型都有安全过滤"的说法，他的回答更加尖锐：
"根本没有真正的过滤层。"
任何人都可以拿一个开源模型，剥离掉底层的安全与对齐机制。
四、最迫近的危险：不是失控，而是恶意遇上能力普及
这场访谈里一个容易被忽略的转折，是盖茨对危险优先级的排序。
当主持人追问模型的"情境感知"能力和递归自我改进时，盖茨的回应是：
"你关注的只是局部问题。"
他承认 AI 脱离人类意愿自主失控是一个极大的中远期风险，但他认为眼下最迫在眉睫的，是这些工具落入怀有恶意的人手中。
他的判断是，今年早些时候网络安全和生物安全两道威胁阈值都已被跨过。
一段顶级程序员排查了二十多年、一致认为没问题的底层代码，模型几分钟内就能指出如何形成连锁攻击；
行业尝试过代号"透翅蝶"（Glasswing）的计划，把高危能力只交给少数人提前修补，但现实中的代码存量太庞大了。
生物领域，过去只有少数国家级实验室能合成高危病原体，今天极少数个人借助前沿模型就可能做到。
他还指出了一个在科技史上没有先例的结构：
过去所有危险技术——火箭、铀浓缩、核武器——研发资金都来自政府，政府本身就是最大的采购方和技术掌控者。
而这一轮浪潮完全由民营资本在封闭实验室里推动，政府决策层"根本看不懂这些技术究竟有多危险"。
这一点值得单独强调：
这是第一次，最危险的技术既不由国家开发，也不由国家掌控。
开发者和监管者彻底分离，监管一方处于明显的信息劣势。
他给出的药方，是建立全球通用的强制性底层监管层：
开源模型可以免费、可以定制，但必须运行在具备主权实体监管能力的平台上，确保监控模块无法被剥离。
他还举了一个反直觉的例子说明为什么这需要制度而非企业各自把关：
某些模型安全阈值调得过高，专业医生咨询癌症治疗方案都频繁触发拒答，于是正规科研人员要么申请特权版本，要么转向毫无约束的开源模型。
过度防御，反而把用户推向了零防御。
单个企业的安全策略再严格，只要整个生态里存在一个出口，严格本身就会把人推向那个出口。
五、就业：杰文斯悖论在哪里失效
在就业上，盖茨比大多数科技领袖都更悲观。
他提出"可靠性临界点"：
一旦数字系统在某类工作上的稳定度和准确率全面超过人类，替代就会瞬间发生。
基础软件开发已经跨过；
会计、法律文书、电话销售、客服将在几年内跟上。
反方最常用的论据是杰文斯悖论：
效率越高、成本越低，需求反而越大，就业也会随之增长。
盖茨的回应分了两层。
第一，杰文斯悖论只在需求弹性高的领域成立。
子午线轮胎寿命提高到四倍，人们并没有多开四倍的路程，轮胎厂工人被裁掉了四分之三；
仓储机器人普及之后，网购总量也没有成倍暴增。
第二，也是更关键的一层：
"一旦整条任务链条被机器端到端全部闭环，需求弹性再大也毫无意义——
因为企业的所有增量开支只会进入算力 Token 的预算，而不会进入人类的薪水发放账户。"
这句话厘清了一个常被混淆的概念。
杰文斯悖论保证的是"对这项服务的需求"会增加，而不是"对人类劳动的需求"会增加。
过去两者几乎总是同步的，因为服务必须由人提供；
当整条链条可以由机器闭环完成，两者就第一次脱钩了。
他开出两个药方。
一是对数字劳动力征收社保税：
定义标准的劳动力工作单元，无论由人还是机器完成，企业都缴等额社保税——
现行税制优待资本、重税劳动，等于在制度上补贴了机器替代人。
二是设立"人类专属保留岗位"，如幼儿托育、临终关怀、基础护理与初级教育中的面对面环节，他把它比作现代社会的自然保护区。
两个方案的共同点在于：
不是阻止替代，而是让替代的社会成本被计入价格。
六、危机的真正结构：伤害以软件速度到来，红利以物理速度兑现
访谈里最具概括力的一段，是盖茨对时间的判断。
他认为阵痛期与红利期严重错配。
人们向往的"超级丰裕"——房租、电费、医疗成本大幅下降——都要穿过物理世界：
候选药物仍要经历动物实验、临床试验和漫长审批，哪怕在数据中心停车场铺一片光伏板，都要层层审批和公众听证。
所以他的结论是：
生物安全危机、网络攻击、精神心理危机和大规模失业，将在未来五年内集中爆发；
而农业、住房、能源等实体产业的降本与丰裕，至少需要二十年才能真正惠及普通人。
"人类社会根本撑不到终极丰裕到来的那一天。"
把这一段和前面几节放在一起看，这个时间差并不是偶然的坏运气，而有一个结构性的原因：
AI 带来的伤害大多是"比特原生"的，而红利大多是"原子受限"的。
网络攻击发生在代码里，分子设计本质上是信息问题，白领工作的替代也发生在信息层，它们都以软件的速度扩散。
而降低房租、电费和医疗成本，都必须穿过物理世界、审批流程和社会制度，只能以物理世界的速度推进。
从这个角度看，盖茨提出的各项主张，其实都是在为这十五年的时间差搭桥：
底层监管层是在延缓伤害的到来，机器社保税和保留岗位是在缓冲转型的冲击。
他对"全球南方"的看法，恰好是这个框架里的例外。
在极端贫困地区，五岁以下儿童死亡率是发达国家的十五倍以上；
基金会计划用五年让约 34 亿使用非主流语言的人口能用母语使用 AI。
他举的例子是尼日利亚农村一位说约鲁巴语的产妇深夜大出血、方圆几十里没有诊所，一部廉价手机上的母语急救指导就可能救命。
在这些地方，瓶颈本来就是信息而非物理设施，所以红利也可以是比特原生的，能以软件速度到达。
这或许解释了，在发达国家援助预算持续缩水时，盖茨为何仍把这里视为 AI 最应加速的领域。
结语
访谈最后，盖茨被问到最担心什么。
他的回答不是某种具体的灾难，而是一种政治局面：
AI 像当年的气候变化一样，沦为非黑即白的党派图腾，一方无条件支持技术狂飙，另一方无条件反对一切创新，中间理性讨论的空间被彻底撕碎。
这个担忧和他全部论证的结构是一致的。
他提出的每一项主张——
底层监管层、机器社保税、保留岗位——
都不是简单的"加速"或"减速"，而是需要精细设计的制度。
而精细的制度设计，恰恰只能在理性的中间地带完成。
三十年前在莱特曼的节目上，"光想想就很吓人"是一句让观众发笑的玩笑。
三十年后，同一个人用了整整一场访谈来说明，这件事已经不再好笑——
而留给人类准备的时间，可能比所有人以为的都要短。
✦ 精选内容 ✦