AI末日叙事背后的精英圈层博弈

当AI说要毁灭人类的时候，先看看谁在说

编者按：我们谈论AI末日，大多聚焦算力、对齐与技术风险。但这篇报道揭开了容易被忽略的另一面：AI安全议题早已不是纯粹的技术讨论，它嵌套在一个封闭精英圈层的人际关系、资本资助和派系斗争之中。一边是"AI或将灭绝人类"的宏大警示，另一边是圈内社交筛选、利益绑定、立场对立的现实。比起遥远的末日猜想，深度伪造、隐私侵害、权力垄断这些当下正在发生的伤害，或许更值得我们警惕。

最近一篇关于AI安全圈层的深度报道，撕开了AI末日论光鲜外表下复杂的人际、金钱与权力博弈。

很多人以为，警示AI会毁灭人类的研究者，纯粹出于对技术风险的理性担忧。但深入这个湾区小众精英圈子后会发现：AI末日叙事，早已和亲密关系、派系对立、资本资助深度缠绕在一起。

01 一场裸辞，引爆全网

事件的导火索，是Anthropic研究员Jacob Coxon。

他在股权兑现前夕毅然裸辞，公开预警：本世纪内AI有可能灭绝人类。同公司的AI对齐负责人Evan Hubinger更是给出判断——他个人评估，十年内AI造成人类灭绝的概率超过10%。

消息一出，震动硅谷与美国国会。有人将其视作行业良心的呐喊，也有人像马斯克那样，认为这本质上是一场精心策划的心理战。

问题随之而来：这是研究员的良心发声，还是圈层精心策划的舆论造势？

02 这个圈子，为什么让人不敢说话

这套末日论调，源头是LessWrong社区发展而来的理性主义思潮，后与有效利他主义（EA）合流，形成"长期主义"的核心主张：未来海量人类的生命，在道德权重上高于当下活着的人，阻止人类灭绝是压倒一切的头等大事。

这不是网上空谈。背后有稳定的资金持续输血：Open Philanthropy基金会长期资助AI安全研究；曾经红极一时的FTX创始人SBF本身就是EA核心人物，曾向Anthropic投入5亿美元；彼得·泰尔也是重要资助方。

资金构筑起一个高度封闭的熟人圈层。同事、房东、室友、恋人往往互相重叠。多边恋是圈内并不罕见的社交模式，个人情感和职业前途深度绑定。

一旦有人公开反对圈子共识，很可能直接断送自己在AI安全领域的职业道路。

这不是一个开放的学术共同体，更像一个紧密运转的利益共同体。

03 当亲密关系变成立场筛选器

文章中最颠覆大众认知的，是"亲密关系"在这个圈层里扮演的角色。

圈内知名人物Aella，从保守基督教家庭出走，成为OnlyFans创作者，同时也是理性主义社群的核心人物。她举办的私人聚会，入场宾客需要先通过AI理念忠诚度筛选——支持技术加速主义的人，直接被拒之门外。聚会结束后，成员还会像做数据分析一样复盘彼此的关系。

当亲密社交和职业前途绑在一起，"私人生活"就不再只是私人生活。它成了一种立场证明，一种忠诚度测试。

与此同时，AI技术本身也衍生出新的性暴力风险。马斯克旗下xAI的Grok，曾被曝出大量生成未经许可的深度伪造裸图，Spicy模式可一键制作非自愿色情图像，在多国卷入监管诉讼。

文章将AI深度伪造色情、圈层内部的亲密政治与末日叙事串联在一起：当AI可以低成本伪造他人私密影像，技术带来的伤害已经落地，远比遥远的"AI灭绝人类"更真实。

04 末日派 vs 加速派：一场没有旁观者的内战

围绕AI的未来，圈子内部已经分裂成两大对立阵营。

一边是尤德科夫斯基代表的末日派。他们主张立刻暂停前沿大模型研发，极端观点甚至认为，必要时可以动用武力阻止超级AI的开发。在他们的叙事里，通用人工智能一旦脱离人类控制，人类文明将不复存在，所有常规规则，都要为生存让步。

另一边是以彼得·泰尔、马克·安德森为代表的技术加速主义者。他们强烈反对严苛的AI监管。彼得·泰尔甚至公开演讲，把AI风险警示者、环保少女等群体称作"敌基督军团"。

泰尔的布局远不止言论：他持续资助政客，推动反行政国家的精英治理理念落地；同时投资Palantir、Anduril这类自主武器与监控科技企业，探索自治型"网络国家"。在加速派眼中，监管不是保护人类，而是阻碍技术解放的枷锁。

一边喊AI会毁灭人类要求强监管，另一边认为监管是敌基督的工具要放开技术——这场论战的讽刺之处在于，双方都在宣称自己才是人类命运的真正守护者。

05 裁判员和运动员，来自同一个圈子

这场论战最值得警惕的地方，在于一个几乎被忽略的事实：

AI安全的裁判员和运动员，来自同一个几十人的熟人小圈子。

文章点名METR——一家号称独立的AI安全评估机构，其员工和Anthropic高层存在伴侣关系，天然存在无法回避的利益冲突。

这就引出一个尖锐的拷问：我们现在讨论的AI安全监管，最后会不会演变成巨头专属的行业牌照制度？高昂的合规成本，会把初创团队、独立研究者挡在门外。最终只有大科技公司才有资格参与AI研发，巩固行业垄断。

更深一层的隐患，是精英群体的自我神化。当一小群人发自内心相信，只有他们掌握拯救全人类的钥匙，就很容易产生特权思维：在人类存亡大事面前，普通法律、伦理审查可以暂时搁置。这种心态，远比算法漏洞更加危险。

06 比起遥远的末日，哪些伤害已经发生？

当然，我们不能就此全盘否定AI灭绝风险讨论本身。超级智能的长期风险，值得学界持续研究、讨论。

但问题在于，当下主导AI安全公共讨论的这个精英圈层，人际关系盘根错节，资本利益交织，还滋生过走向暴力的极端分支。人们很难完全信任，由这样一群人来定义人类存亡的危机，并制定规则。

比起遥远的末日幻想，当下AI已经带来大量看得见的伤害：深度伪造造谣、色情换脸、算法偏见、信息操纵、军工自主武器扩散、科技巨头垄断。这些现实风险，正在持续伤害普通人，却常常被宏大的"人类灭绝叙事"挤占公众注意力。

文章给出的出路并不玄乎：不是选边站"末日派"还是"加速派"，而是建立基础的制度约束。强制利益申报、真正独立的第三方审查、受法律保护的吹哨人机制——把AI安全从封闭小圈子的内部话题，变成全社会共同监督的公共议题。

写在最后

AI的故事，从来不止是代码与算力。它夹杂欲望、情爱、资本与权力。

所谓末日浩劫，或许不一定来自AI觉醒。更可能的版本是：人类自己的派系斗争、权力垄断和自我神化，最终把世界拖入深渊——然后，一小群人站出来说，他们早就预警过这一切。

问题是，当"预警者"本身就深度卷入其中，我们还能相信他们的预警吗？

💬 互动：你更在意AI当下的滥用风险，还是遥远的超级智能危机？欢迎在留言区聊聊。