ARTICLE · 1125194
估值百亿的AI巨头竟脱胎于“末日邪教”?彼得·蒂尔揭开硅谷最隐秘的疯狂
想象这样一个魔幻场景：
你每天走进全硅谷最顶尖的AI实验室上班，拿着数十万美元年薪。但在你心底，你坚信人类文明大概率只剩不到十年，手中构建的超级AI，宛如随时会毁灭文明的全球核武装。
这帮整天把“人类灭亡”挂在嘴边的人，反手做出了全世界估值最高的AI超级独角兽。
这究竟是一群拯救世界的救世主，还是一个高智商的现代科技“邪教”？
就在不久前，硅谷教父级投资人、PayPal联合创始人彼得·蒂尔（Peter Thiel），在一档播客节目中毫无遮掩地撕开了这层窗户纸。他公开将当下主导AI安全与伦理的“有效利他主义”（Effective Altruism，简称 EA）运动比作一种带有“邪教式团体气质”的组织。
但他随即抛出了一个让全硅谷毛骨悚然的反转：
“它或许具备邪教好的一面：他们掌握了一件别人不知道的大事。那就是，AI近在眼前，而且真的可能毁灭世界。”
▲ Business Insider 独家报道：彼得·蒂尔称有效利他主义者押中了一件大事
这番评价随即在硅谷科技界引发了广泛争论。
01.蒂尔的悖论：哪个邪教能干出百亿美元公司？
蒂尔这番话绝非无端攻击熟悉他的人都知道，这是他标志性的“钢人论证”：若想反驳对方，先承认对方最有力之处。
在许多同行嘲讽AI是泡沫、是过度承诺的漫长“AI荒漠”时期，唯独这群人坚定不移地相信：超级AI一定会到来，社会将被彻底颠覆，甚至人类会被这项技术抹杀。
蒂尔点名了当下与OpenAI分庭抗礼的AI巨头，Anthropic。
开发出大模型Claude的Anthropic，估值已达数百亿美元。它的两位创始人达里奥·阿莫代（Dario Amodei）与丹妮拉·阿莫代（Daniela Amodei），骨子里就流淌着深厚的有效利他主义血液。据《金融时报》报道，该公司曾有数十位员工承诺将未来大部分收入捐出，用于防范灾难。
蒂尔反问道：“一家百亿美元级的硬核科技公司，似乎比一个疯狂的邪教能建立的东西大得多吧？历史上哪个邪教能做成这种事？”
▲ 蒂尔在《从0到1》中曾写道：最好的创业公司必须像邪教一样拥有高度共识
其实，翻开蒂尔2014年的畅销书《从0到1》，你会发现他早就写过一套离经叛道的理论：最顶尖的创业团队，必须像某种程度的邪教。
在蒂尔的逻辑里，普通组织一盘散沙，唯有极端组织能让成员放弃外部世界，换取对“秘传真理”的绝对忠诚。两者的唯一区别在于：邪教往往在某件重大事情上狂热地搞错了，而伟大的初创企业，则是在外人都看不懂的大事上，狂热地搞对了。
那么，这群在AI浪潮中狂揽百亿美元的信徒，究竟是怎么把“理性计算”推向极致，最终演化成外界眼中的“末日神教”的？
02.致命跳跃：从“非洲买蚊帐”到“拯救千亿未来人”
很多人以为，这群满脑子AI毁灭世界的极客，从一开始就是疯狂的科幻迷。
事实恰恰相反这个群体的起点，冷静、冷血，甚至理性到了极致。
有效利他主义最初只关心一件非常朴素的事：算账。
假设你手里有10万美元善款，你是捐给本地艺术馆建展厅，还是拿去非洲买防疟疾蚊帐？EA的答案毫不犹豫：买蚊帐因为经过严密的数学测算，买蚊帐挽救的生命数量，是前者的几十倍甚至上百倍。
他们用最严苛的投资回报率（ROI）来做慈善，创办了评估机构GiveWell，吸引了全球最顶尖的数学家、哲学家和程序员。
▲ 学者们在社交媒体上复盘有效利他主义与理性主义的渊源
但坏就坏在，这群人的数学实在太好了。
当他们把这套“期望值最大化”的公式推向宇宙尺度时，思想发生了一场惊天动地的基因突变：
“如果人类没有灭绝，未来能够殖民银河系，那么未来世代可能会有 $10^{50}$ 条生命。如果现在的AI失控，概率哪怕只有1%，人类全灭，那消失的就是天文数字般的未来生命！因此，在数学期望上，哪怕花几百亿美元去降低0.001%的AI灭绝风险，其道德价值也远远碾压给今天活着的人买蚊帐！”
这就是所谓的“长期主义”（Longtermism）。
原本脚踏实地的扶贫账本，瞬间飞升成了拯救全宇宙的救世宏愿。硅谷的算法精英与牛津的哲学高阁就此合流，一种全新的末日神话在代码与服务器之间诞生了。
03.算出来的绝望：被 p(doom) 逼疯的年轻信徒
当拯救全人类的重担压在几个数学公式上时，个体的心理异化开始野蛮生长。
在理性主义与AI圈子里，流行着一个关键指标，p(doom)，意即“人类被AI彻底毁灭的概率”。
在外界眼中，这或许只是学者间的推演实验；但在该群体代表人物看来，这是迫在眉睫的现实。被尊为理性主义代表人物的埃利泽·尤德科夫斯基（Eliezer Yudkowsky），甚至公开把自己的 p(doom) 估到 90% 以上，并疾呼：即便动用常规武器实施空袭，也必须炸毁未经严格对齐审查的超大型数据中心！
这种极致的悲观，在圈内撕裂出了巨大的心理创伤：
- 真实存在的“末日抑郁”
：在相关论坛上，充斥着顶尖高校研究员的自白。许多二十出头的年轻人，真诚地相信世界将在五年内灰飞烟灭。他们整夜失眠，陷入虚无主义，罹患重度焦虑障碍。 - 狂热的道德殉道
：在“人类存亡”的遮天蔽日大旗下，普通人的幸福、婚恋、亲情被贬低得一文不值。许多人放弃了正常生活，每天工作十几个小时研究AI对齐。因为在他们的脑回路里，自己正在打一场防范人类灭绝的终极圣战。
旁观者看到的是神神叨叨的邪教狂热，但身处其中的人，却在用最高强度的真诚，承受着认知带来的精神凌迟。
04.认识论黑洞：绝顶聪明的大脑，如何把自己锁进回音室？
外人最百思不得其解的是：这里聚集着地球上最聪明的一批大脑，为什么他们偏偏听不进任何反对意见？
社会认识论学者用一个经典理论给出了答案：他们跌入了一个被精心设计的“回音室”（Echo Chamber）。
哲学家曾深刻剖析过“认知泡沫”与“回音室”的区别：
- 认知泡沫
只是信息闭塞，把外面的事实递到他眼前，泡沫就破了； - 回音室
则高级得多，它不仅控制信息，更预先给成员安装了一套思想免疫系统，用来系统性贬低一切圈外人的可信度。
▲ 《纽约时报》实地探访伯克利园区：被冠以“硅谷技术宗教”的狂热聚落
在伯克利占地大半个街区的 Lighthaven 综合体内，研究员们住在一起、吃在一起、在闭门沙龙里高谈阔论。
当外界的传统学者批评他们的末日推演“缺乏工程基础”时，这套防御机制瞬间被激活：“批评我们的人，要么是目光短浅，要么是被商业资本腐蚀了，要么就是根本不懂大数概率的凡夫俗子。”
更致命的，是他们发明的一个杀手锏词汇，“信息危害”（Information Hazards）。
这个词最初指的是“不该外传的生化武器配方”，但很快被异化为封堵异见的工具。任何可能动摇大家灭世信念、动摇资助信心的反对声音，都会被扣上“这具有认识论危害”的帽子，从而被劝阻公开讨论。
外界每一次无情的嘲笑，非但没能打醒他们，反而在逻辑闭环中成了最好的佐料，“看吧，世人皆醉我独醒，真理果然只掌握在少数殉道者手里。”
05.荒诞的自救：花几万美元悬赏别人来“骂自己”
如果事情到这里结束，那它确实与历史上的荒诞教派毫无二致。
但这个群体最令人动容、也最令人啼笑皆非的地方在于：他们竟然尝试用金钱和理性，来向自己的认知缺陷宣战。
为了防止组织彻底堕落为不可救药的回音室，有效利他主义论坛干脆设立了一项常规赛事，“批评与红队竞赛”。
主办方拿出数万美元的真金白银公开悬赏：欢迎全球所有人，以最严厉、最刻薄的逻辑，专门撰文挑刺 EA 底层的逻辑漏洞。
在这项竞赛的获奖论文里，内部异见者毫无保留地开火：
痛斥社群内部对知名人物存在近乎神化的“盲目服从”； 揭露数十亿美元的慈善基金在审批时，全靠常春藤校友圈的“近亲繁殖”； 撕碎了那套用虚无缥缈的数学期望值去指导现实决策的荒谬空中楼阁。
这种试图通过制度化“自我审查”来打破共同信念枷锁的举动，在人类思想史上极其罕见。
他们是一群狂热的信徒，但他们又是全世界唯一一群试图用数学公式和红队演练，去证明自己“其实是个傻子”的信徒。
06.凝视深渊：当最高尚的理性，走向异化
彼得·蒂尔的那句调侃，像一柄冰冷的手术刀，切中了硅谷当代技术浪潮最幽深的心脏。
有效利他主义与传统教派截然不同这是一场由极高智商、强烈道德责任感与庞大资金规模共同催生出的智识实验。
这群人没有在纸上谈兵，他们亲手将代码变成了撬动数千亿美元资本的超级模型。但他们又在自己亲手构筑的逻辑高塔里，把自己逼到了精神崩溃的绝境。
人类技术正以不可逆的速度冲向未知的奇点。面对一个连创造者自己都无法完全解释的超级AI，究竟是外部世界的茫然麻木更危险，还是象牙塔内这群自命不凡的殉道者更偏执？
没有人能给出定论
正如蒂尔所言，他们像邪教一样狂热地抱团；但也正因这种狂热，他们比全世界所有人都更早地望见了那头深渊中的巨兽。而当最高尚的救世情怀与最纯粹的理性推演彻底交织，你很难说清，人类最终等来的，究竟是一场启蒙，还是一场漫长的神智昏迷。