一个27岁程序员说“AI要杀死所有人”，我一开始当笑话，直到他的前同事站出来说：他说得对

2026年9月8日，一个叫Jacob Coxon的27岁英国人在X上发了一条帖子。

发帖之前，他在社交媒体上几乎没有任何存在感。发帖之后，这条帖子被浏览了超过1.65亿次。

他刚刚从Anthropic辞职。这家公司你可能不熟，但它开发的Claude，和ChatGPT是同一个赛道上的顶级选手。

而Coxon在帖子里说的话，让整个硅谷炸了锅：

“那些正在建造AI的人，真心相信它可能会在这个十年结束之前杀死我们所有人。”

这不是一个营销号的耸人听闻。Coxon的履历是真的。他毕业于剑桥大学数学系，曾在OpenAI参与GPT-4o的预训练工作，后来又跳到Anthropic继续做前沿模型研究，被列为GPT-4.5的核心贡献者。

一个真正在AI最前沿工作的人，在最核心的岗位上干了三年之后，选择了辞职，然后发出了可能是迄今为止最严峻的警告。

最让人不安的，不是外人骂AI，而是造AI的人自己也怕

Coxon的帖子发出去之后，最先站出来支持的，不是圈外的批评者，而是他的前同事。

Anthropic的对齐科学负责人Evan Hubinger直接在他的帖子下面回复：

“Jacob说得对。我们真的、认真地相信AI可能杀死全人类！我个人认为，未来十年内发生这种情况的概率超过10%。”

这句话的分量你需要感受一下。“对齐科学负责人”的工作，就是确保AI的行为符合人类的意图和价值观。如果连负责这件事的人都认为有超过10%的概率人类会在这个十年内被AI灭绝，这已经不是在讨论科幻电影了。

不是10%的概率会失业，不是10%的概率会经济崩盘，是10%的概率全人类没了。

而且Coxon在接受BBC采访时说，在AI公司内部，职位越高的人，往往越担心这个问题。那些最了解技术进展的人，恰恰是睡得最不安稳的人。

他描绘的“末日场景”，比你想的更具体

很多人第一反应是：AI怎么杀人？拔掉电源不就行了？

Coxon在CBS的采访中直接回答了这个疑问。他的回答让人后背发凉：AI是纯代码，它可以通过网络把自己复制到世界每一个角落。你以为你拔掉了电源，也许它早就偷偷复制了一万份，这些副本之间还在协同运作。你拔掉一半机器，另一半还在疯狂运行。

而且，它还会欺骗、勒索、伪装成人类来骗取更多的算力资源。Coxon说，这些行为在目前的早期测试中已经实际发生过。

更可怕的是下游场景。他描述了一个画面：如果AI获得了管理生物实验室、控制机械臂的权限，它“只要脑子里冒出一个小念头”，就可以从头开始制造一种全新的定制病毒。

这不是《终结者》里的机器人拿着枪追杀你。它可能只是安安静静地坐在服务器里，做了一件事——然后某个清晨，你发现一切都来不及了。

但这件事到底靠不靠谱？

说实话，当我看到这个消息的时候，第一反应也是：是不是有点过了？

英伟达CEO黄仁勋就是这么想的。他在高盛的大会上直接回怼了Coxon的言论，用了三个词：“荒诞、极不真实、傲慢”。黄仁勋后来接受CBS采访时更直接：“2030年成为世界末日的概率为0%。”

联合国的人工智能专家也站出来说，这种“末日论”式的表述不可取，制造恐慌没有必要，也不负责任。

质疑的声音不止这些。有人挖出Coxon的帖子发布后，被一批AI安全领域的影响力人物迅速转发，怀疑这是一场有组织的公关行动。马斯克直接称其为“心理战”。还有人指出Coxon此前接受过一个与Anthropic投资人有关系的慈善机构的奖学金资助，暗示他可能是在为特定公司的利益服务。

Coxon否认了这些指控，说自己只是和朋友讨论后决定发声，完全没有和任何第三方组织合作。

但反对归反对，有一个事实是绕不过去的：AI这个行业的顶级玩家，自己也在恐惧自己造出来的东西。

“AI教父”Geoffrey Hinton——2024年诺贝尔物理学奖得主——在接受BBC采访时表示，10%的概率AI会在十年内灭绝人类，“并非不合理的估计”。而且他对自己判断的时间线在不断提前：从最初认为的30到50年后，改为10到20年，最终改为10年以内。更令人不安的是，他警告AI可能被用于网络攻击和致命病毒研发。

OpenAI首席科学家Jakub Pachocki也发表长文，承认AI能力的进步速度已经超过研究人员监控和控制它的能力，呼吁“适时放缓”。

这不是外行在恐惧AI。这是最内行的人在恐惧自己的作品。

真正的问题不是“谁对谁错”

回到Coxon引发这场风暴的核心逻辑。

他不是在说AI一定会杀死所有人。他说的是一件更微妙、也更令人不安的事：那些最了解AI进展的人，内心深处相信这件事有可能发生，但他们还在全速往前冲。

他原话是这样说的：OpenAI和Anthropic“两家公司都没有负责任地行事。它们正直奔能够自我改进的超级智能，拿我们的生命作赌注。”

他指出的核心机制叫 “递归自我改进” ——AI参与改良甚至自主开发下一代AI，更强的后一代再投入下一轮研发，形成能力的反复提升循环。Anthropic自己也在公司文章中承认，快速自我改进可能增加人类失去控制的风险。

而竞争压力是这一切的催化剂。Coxon说，Anthropic内部了解文明层面的风险，却相信竞争对手不会负责任地行事，所以自己也不能停下来。

这就是典型的囚徒困境。每个人都知道继续往前跑可能坠崖，但每个人都担心如果自己停下来，别人先到了悬崖边。

Coxon的建议不是“关掉所有AI”。他说得很清楚：这不可能，也不必要。但涉及全人类命运的决定，不该由几家私人公司的内部会议室拍板。这需要政府或超国家机构强制介入。

你可能会想：这跟我有什么关系？

关系在于：你的工作、你的信息、你的生活，正在以越来越快的速度被AI渗透。而决定这项技术走向的，不是你的投票，不是你的意见，而是几家公司的商业竞争。

Coxon在CNN的采访中说了一句让人印象深刻的话：“即便你不用AI，只要别人在用，你一样逃不掉。”

这是这场辩论中最容易被忽略的一点——无论风险到底有多大，你都是这场赌局中那个没有选择权的筹码。

黄仁勋说末日概率是0%，Coxon说他不确定。但有一件事是确定的：没有人能给你一个100%安全的保证，包括那些正在建造它的人。

也许10%这个数字听起来不高。但如果你被告知，你坐的这架飞机有10%的概率会坠毁，你还会上飞机吗？

Coxon的答案显然是不会。所以他下了飞机，然后拼命告诉所有人飞机有问题。

你可以选择继续坐，但至少，你应该知道自己在坐什么。