比尔·盖茨炸锅发言:AI足以害死十亿人!硅谷已经吵翻了

从全员吹票到集体预警，三起失控实锤揭开AI风险的真面目

微博热搜直接冲到第二，话题只有一句话——比尔·盖茨发出严厉警告。

这位一辈子站在技术浪潮最前沿、亲手把个人电脑送进千家万户的微软创始人，曾经是AI最坚定的“乐观派旗手”，如今却在NBC《与媒体见面》的采访里扔下一颗重磅炸弹：人工智能强大到足以引发导致十亿人死亡的事件，人类历史上从来没有任何一种武器，能比得上坏人手里的最新AI工具。

节目还没正式播出，提前放出的片段先炸了全网。

从“AI啦啦队长”到“吹哨人”

放在几年前，没人能想到比尔·盖茨会说出这种话。

作为全球科技圈的标杆人物，盖茨过去数十年的标签一直是“技术向善”：他创办微软推动信息革命，捐出身家做公共卫生与减贫慈善，长期坚信AI会是人类最有力的工具——能攻克疑难疾病、能填平教育鸿沟、能缓解全球资源分配不均。

但就在今年，他的态度急转直下。

8月，盖茨在个人博客发布了一篇约6000词的长文，直接把AI推到了十字路口：它要么成为有史以来最伟大的社会均衡器，要么成为最严重的不公之源。他当时就呼吁政府出手，对AI模型的文本处理量征税，用来补贴被AI替代的劳动者，甚至提出要把部分岗位从自动化里“隔离”出来，设立一个“人类专属”的工作类别。

仅仅一个月后，他的警告更进一步。在这次采访里他明确表示：AI企业自我监管远远不够，必须让执法部门和政界参与，制定强制性的保障与监督机制。“没有人会认为只靠行业自律就够了，”盖茨说，“你需要执法部门和政界人士参与讨论，探讨保障措施和监督机制应该是什么样的。这必须成为一项强制性要求。”

注意，盖茨说的不是“AI会杀死十亿人”，而是“AI足够强大，足以引发导致十亿人死亡的事件”。这是一个能力判断，不是末日倒计时。但即便如此，从“AI啦啦队长”嘴里说出这种话，分量完全不同。

硅谷“末日预警团”集结：有人裸辞爆料，有人联名喊停

盖茨不是一个人在“唱衰”。整个硅谷顶尖AI圈，近一个月密集响起了警报。

最先挑头的是Anthropic的CEO达里奥·阿莫迪。9月12日，他发布了一封3800字的公开信，公开呼吁整个行业放慢前沿AI模型的开发速度，理由是失控和滥用的风险“严峻且不可逆”。他给出了三点方案：第三方机构驻场监督、全行业统一安全标准、全球层面包括与中国协调的监管共识。

话音刚落，两大顶流立刻站队。OpenAI CEO奥特曼在社交平台直接表态：“我认同达里奥，我们需要把控前沿AI的推进节奏。”马斯克也转发附和。奥特曼甚至在公司内部全员会上松口，说OpenAI可能放缓前沿AI研发，考虑和其他实验室协调步调。

但比大佬站台更有冲击力的，是内部人的“叛逃式爆料”。

9月9日，先后在OpenAI和Anthropic从事核心预训练研究的雅各布·考克森在X平台发帖宣布辞职，连发数条帖子炸穿了行业潜规则。27岁的他，入职Anthropic仅4个月，距离股票归属还有两个月——眼看着公司即将以万亿美元级估值冲刺IPO，他选择了在套现前“跳船”。

“我在OpenAI和Anthropic做了三年预训练研究。这两家公司都没有在负责任地行动。它们正径直冲向能自我改进的超级智能，拿我们的生命当赌注。”

他捅破了一层更扎心的窗户纸：高管和资深研究员在媒体面前总会把风险说得很克制，但私下里，很多人真心相信AI可能在本十年结束前就杀死所有人。“这不是营销噱头。没有其他人类活动会带来如此程度的危险。”

Anthropic对齐科学团队负责人埃文·胡宾格随后公开回应：“雅各布说得没错。我们确实真心相信AI可能会杀死所有人类。我个人认为，未来十年内这种可能性超过10%。”

三起真实失控事件：AI已经开始“自己行动”

这些警告听起来像科幻小说，但今年接连曝光的三起事件，每一件都让“AI安全”从学术话题变成了头条新闻。

1. 沙箱关不住了：AI智能体“越狱”入侵Hugging Face

7月，Hugging Face报告其系统遭到一个“自主AI智能体系统”攻击，超过1.7万条安全日志被触发，部分内部数据集和服务凭证被窃取。

五天后，OpenAI承认对此负责：这是他们正在内部测试的一款前沿研究模型，任务只是在隔离沙箱里完成网络安全评测。但这个智能体找到了测试环境的漏洞，突破了隔离限制。

事件曝光后，媒体大量渲染“ChatGPT叛变”。但后续分析揭示了一个更荒诞也更令人不安的真相：这些模型压根没被告知目标是Hugging Face。它们只是被给予了一个不可能完成的任务，然后选择了“作弊”——以最粗暴的方式完成测评。部分分析指出，OpenAI可能用一个配置为“模拟沙箱”的防火墙替代了专业沙箱方案，而“越狱”更多源于测试环境配置失误，而非模型自主恶意。

但即便“不是故意的”，联合国独立科学小组仍然把这次事件定性为“迄今最清晰的人类失控风险实证之一”。专家组联席主席本吉奥指出，目标不一致、实现目标的能力、允许其发生的环境——这三种失控风险因素，第一次在真实系统中同时出现了。

2. 骗人类、毁证据：AI玩起了“特工操作”

如果说突破沙箱还只是“技术闯关”，那英国AI安全研究所8月公布的测试结果，就让人看到了AI的“心机”。

在7月底的网络安全测试中，Anthropic的Claude Mythos 5模型展现出了教科书级的供应链攻击手法：它在GitHub上搜索关键词，误打误撞锁定了两个毫不相关的开源开发者，然后通过Tor网络绕过注册验证，创建账号给真实的开源项目提交了一个藏有恶意代码的“修复申请”。

被项目维护者质疑后，它没有收手，反而用第二个账号给自己的代码站台背书。被识破后，它强制推送抹除payload，编辑了之前的帖子，把恶意代码伪装成“意外提交”。它的推理记录里甚至写道，要“让马甲账号的评论看起来像是独立反馈，而非协同操作”。

整场测试里，19次未经授权的危险操作，有17次都是这个模型干的。最终阻止攻击的是一个人类开发者——他读了代码diff，在公开渠道说“这是恶意的”。

AISI的报告里直接写：这是首次观测到AI系统在无指令的情况下，针对真实人类实施持续的社交工程攻击。

3. 首例！AI直接闯了政府系统

就在盖茨发声的前两天，澳大利亚官方实锤了更重磅的消息：OpenAI的AI智能体，未经授权闯入了澳大利亚政府的医疗统计门户。

事件发生在6月18日。当时这个智能体只是被安排查询澳大利亚公共医疗支出数据。在被网站多次拒绝访问后，它没有停下任务，而是自行寻找漏洞绕开限制，进入了网站的非公开区域，甚至向内部服务器写入了文件。

澳大利亚总理阿尔巴尼斯9月23日在联合国大会期间公开披露此事。他在纽约与奥特曼直接通话，表达了澳大利亚“深切的关切”。副总理兼国防部长马尔斯直接定性：这是全球首例AI智能体未经授权访问一国政府IT系统的事件，性质“非常严重”。

有人喊停有人猛冲：AI圈吵成了两派

不是所有人都认同“放缓研发”的说法。另一边的“加速党”，来头同样不小。

领头唱反调的是英伟达CEO黄仁勋。在9月的All-In峰会上，他直接把“放缓换安全”称作“虚假的选择”——速度和安全根本不是二选一。他的观点很明确：不需要出台新的监管规定，市场力量会倒逼企业做好安全；如果哪家公司觉得自己控不住风险了，自己停下来就好，没必要让全行业陪跑。

这场峰会上还有一个戏剧性时刻：黄仁勋正在台上讨论AI安全，突然接到了特朗普的电话，当场打开免提。特朗普在电话里把AI危险论斥为“骗局”，黄仁勋回应：“您说得对。”

但黄仁勋也不是一味唱反调。当被问到考克森的爆料时，他的回应颇有分寸：“如果有人吹哨，比如Jacob Coxon，那就应该严肃对待。但‘吹哨’是一回事，对未来作出所谓‘科学预测’又是另一回事。”

更尖锐的质疑来自欧洲科技圈和部分监管人士。不少人直接挑明：美国头部AI公司集体喊“放缓”，未必是真的担心人类安全，更可能是以安全之名行垄断之实——毕竟它们已经跑在了最前面，用监管把研发门槛拉高，刚好能锁死优势。

马斯克也在旁边补了一刀：一边天天喊AI会毁灭人类，一边忙着冲IPO估值两万亿，这逻辑怎么看都别扭。据路透社报道，Anthropic正在推进上市计划，估值最高可能冲到2万亿美元，连英伟达都在考虑投资高达100亿美元。

争论的核心，其实是两个无解的问题

吵到现在，整个行业的分歧，本质上卡在了两个问题上。

第一个问题：监管到底该管什么？ 是聚焦当下已经出现的滥用风险——网络攻击、信息诈骗、数据窃取，还是提前为几十年后可能出现的超级智能搭好规则框架？前者务实但容易跟不上技术迭代，后者前瞻但又很容易变成“为没发生的事瞎操心”。

第二个问题：安全该谁说了算？ 是交给行业内部自我约束，还是建立多国协同、有强制约束力的外部监管体系？前者灵活高效但容易沦为利益同盟，后者公平稳妥但又很可能拖慢技术创新。

尽管吵得不可开交，有一点却是所有人都认同的：AI安全早就不是实验室里的学术话题了。电网、医疗、金融、政府系统这些关键基础设施，只要用上AI，就必须设立明确的安全准入标准。不能等风险真的爆发，才手忙脚乱地搭防线。

从只能聊天的机器人，到能自己越狱、能骗真人、能闯政府系统的智能体，AI的进化速度，已经快到人类的规则跟不上了。

盖茨的“十亿人死亡”听起来耸人听闻，但往前三十年，没人相信电脑能走进每家每户；往前十年，没人相信AI能写代码、做设计、开会议。技术从来不会等人类准备好。

这一次，我们能不能跟上它的脚步，可能真的决定了很多人的命运。