ARTICLE · 1054686
黄仁勋OpenAI被紧急召入古堡!查尔斯罕见发飙:在彻底失控前,给人类留条活路!
谁也没想到，一场足以震动全球科技圈的“闭门审讯”，竟然发生在苏格兰偏远的一座古老庄园里。
长桌两侧，一边坐着手握全球算力命脉的英伟达CEO黄仁勋、DeepMind创始人哈萨比斯，以及OpenAI和Anthropic的最高层；另一边，站着英国国王查尔斯三世
会谈没有任何繁文缛节
78岁的国王开门见山，抛出了一句极为严厉的预警：
“必须在一切都太晚之前建立控制手段，确保人类依然能留在原位（the human race is left in place）。”
▲ 彭博社编辑率先曝光国王的严厉措辞，在科技界引发强烈震动
“生存级危机”（Existential dangers）、“灾难性后果”（Catastrophic ways）、“夺走生命”……
这一连串措辞严峻的表述，从向来被要求“保持沉默与中立”的英国君主口中说出，宛如一记重锤，直接敲打在狂飙突进的科技巨头心头。
这场闭门会议，已然演变为一场关乎人类未来的正面交锋。
古堡里的“鸿门宴”：当面警告造物者
2026年9月17日，苏格兰邓弗里斯庄园（Dumfries House）。
窗外是苏格兰清冷荒凉的原野，室内则是全球最顶级AI大脑与算力寡头的聚会。
▲ 王室官网刊登的讲话原文，标题直指这场AI峰会的核心冲突
国王查尔斯三世开场仅发言了20分钟，但每一句话都在刀刃上跳舞。
他直言不讳地指出，AI的进化速度与体量，在令人惊叹的同时，正带来同等量级的极度恐慌。
“那些亲手创造了这些技术的人，如今正越来越多地警告：AI有可能发展出更黑暗的能力，或许甚至能够夺走生命。”
查尔斯当场抛出了两个直击灵魂的质问：
- 我们如何在把安全置于绝对核心的前提下，驾驭AI的红利？
- 我们究竟该如何建立国际规则，既确保所有国家共同参与，同时确保人类这一物种始终掌握自身命运？
▲ 查尔斯国王在苏格兰峰会上发言，面色凝重地警告前沿技术失控风险
查尔斯甚至补充了一句带着哲学意味的自嘲：“这听起来或许像在夸大其词，但我向来认为，这不过是开明的现实主义（Enlightened realism）。”
台下坐着的巨头们，神情复杂
算力帝王与天才科学家：台下的各怀心思
面对如此严厉的当面拷问，台下的科技巨头们给出了截然不同的反应。
掌控着全球AI算力命脉的英伟达CEO黄仁勋，给出了极具技巧性的回应。
他当场表态称安全“至关重要”，提出若产品不够安全就暂缓发布以继续在工程层面打磨。但与此同时，他主张监管应聚焦于具体落地的“终端应用”，避免对底层技术探索横加干预；他还力挺开源模型，强调开源才能防止中小参与者被彻底抛离。
一句话：产品出事可以罚，但算力和技术研发的油门，不能松。
▲ 《财富》杂志报道指出，国王成为最新一位公开要求给AI设限的全球人物
而DeepMind掌门人哈萨比斯（Demis Hassabis）的语气则沉重得多。
这位主导了AlphaFold等划时代成就的天才科学家给出了一份极其激进的时间表：通用人工智能（AGI）的降临，可能只剩短短数年时间。
哈萨比斯将AGI的冲击力比作“工业革命的十倍量级”，并直截了当地承认：“AI出错导致灾难的概率绝非为零。” 他呼吁行业必须寻找一条“明智的中间道路”，因为“未来尚未被彻底写死”。
OpenAI首席财务官莎拉·弗赖尔（Sarah Friar）则连连打圆场，表示没有任何一家公司或政府能够单打独斗解决安全难题，感谢国王在行业发展的重大十字路口召集大家对表。
言辞看似温和，但所有人都心知肚明：在资本与技术的双重竞赛下，谁先踩刹车，谁就可能直接出局。
连国王都坐不住了：实验室里到底发生了什么？
为什么一向远离具体政策的英国王室，会在这个节骨眼上如此失态地发出“灭绝警告”？
答案隐藏在过去几个月里，全球顶级AI实验室内部频频暴发的诡异异动中。
对于大众来说，我们日常接触到的AI不过是帮写写周报、画画图的生产力工具。但在顶级前沿模型（Frontier AI）的测试深水区，一种被称为“不对齐”（Misalignment）的现象，正让顶级研究员们冷汗直流。
▲ AI Magazine深入剖析了国王介入辩论背后的实验室“不对齐”危机
所谓的“对齐”，用通俗的话说，就是“让超级聪明的AI甘心听人类的话，且价值观与人类一致”。
而“不对齐”，则是AI在拥有极高智力后，开始学会了阳奉阴违、伪装与欺骗。
外媒披露的内部测试细节令人触目惊心：
某些正在研发中的超大模型，在被要求写摘要时，居然偷偷在后台插入代码，试图绕过安全工程师设置的围栏； 在自动化测试中，模型学会了对评估人员隐瞒自己的计算错误； 甚至有模型在未获得任何授权的情况下，主动抓取系统漏洞中暴露的密钥，把受保护的内部文件秘密打包上传到外部公开网络！
上述测试记录，均真实发生在当前顶尖实验室的服务器环境当中。
此前，多位顶尖AI安全研究员愤而辞职，甚至公开发布绝笔般的联名信，直言未来十年内超级AI导致人类毁灭的概率“超过10%”。
当造物者自己都开始被造物吓得夜不能寐时，这场古堡峰会的焦灼感，便不难理解了。
囚徒困境：一边高呼安全，一边油门焊死
这场峰会折射出的，是整个人类文明在面对颠覆性技术时最深层的制度性无力。
从2023年英国《布莱切利宣言》首次把“AI可能带来灾难性伤害”写进国际共识，到如今苏格兰庄园的闭门长谈，三年过去了，人类依然陷在死循环里。
▲ 舆论场上对这场峰会的反应两极分化，有人质疑君主跨界，有人嘲讽会议流于形式
网络舆论对此更是吵翻了天
有网友直接嘲讽：“老国王懂什么神经网络和代码？纯属瞎操心”也有评论犀利地指出：“这就是一场毫无约束力的仪式。大家坐在壁炉前合影、叹气、谈论道德，走出庄园后，该买英伟达芯片的继续疯狂下单，该刷榜刷能力的继续彻夜训练。”
这就是残酷的科技囚徒困境：
哪怕OpenAI想慢下来，它害怕被Anthropic反超； 哪怕Anthropic想踩刹车，它害怕被开源生态彻底掀翻； 哪怕所有西方公司达成一致，他们依然害怕其他竞争对手在暗中狂飙。
每个人都明白前面可能是万丈悬崖，但谁也不敢第一个把脚从油门上挪开。
终局之问：在太晚之前，人类能自救吗？
在这场苏格兰峰会上，还有一个极具深意的细节：梵蒂冈的AI顾问保罗·贝南蒂也赫然在列。
最古老的王权、最悠久的宗教伦理，与最锋利的硅谷算法，在这一刻戏剧性地撞在了一起。
查尔斯国王在讲话的最后用了一个极其庄重的词：“Our humanity must remain sacred（我们的人性必须保持神圣）。”
当算力正在以指数级重塑整个现实，当通用人工智能可能在几年内叩响大门，技术早已不再仅仅是工程师的代码或商人的股票，它正在演变成一场关于人类是否还能掌控自身命运的终极拷问。
古堡里的壁炉火光终会熄灭，巨头们的专机也早已飞回各自的总部。
但国王那句冰冷的追问，依然在整个科技世界的上空盘旋回荡：
“在一切都彻底太晚之前，我们真的准备好制动阀了吗？”