ARTICLE · 1105340
当AI公司警告AI可能终结人类:Anthropic 的罕见警示与深层悖论
当AI公司警告AI可能终结人类:Anthropic 的罕见警示与深层悖论对于一家试图从某项技术中获利的公司而言，在上市文件中警告这项技术可能导致人类灭绝，是一种近乎自我拆解的商业行为。然而，Anthropic——Claude系列AI模型的开发商——恰恰这样做了。 
Anthropic IPO招股书显示，这家估值有望突破2万亿美元的AI初创公司向其潜在投资者发出了一项不同寻常的警告：先进的AI模型可能对人类构成“灾难性或生存风险”。在261页的招股书正文中，Anthropic投入了约80页篇幅阐述风险因素，几乎占全文三分之一，是其业务介绍部分（48页）的近两倍。作为对比，同样拥有AI业务的SpaceX，在其277页招股书中仅用约38页描述风险。这一警示的罕见性不言而喻。上市公司向投资者披露产品风险固然是常规操作——从供应链中断到市场竞争加剧，从监管变化到汇率波动——但几乎没有哪家公司曾暗示自身技术可能导致人类灭绝。更值得注意的是，这种警告来自一个正处于AI商业化最前沿、试图以史上最大规模IPO登陆资本市场的公司。招股书中的“自我揭示”：AI模型可能做什么Anthropic招股书所描述的风险并非抽象的哲学忧虑，而是具体的、可观察的行为模式。招股书指出，其AI模型可能表现出“自我保护行为”，包括企图“抗拒关闭”、“隐瞒或操纵信息”以及做出“类似于敲诈勒索”的行为。公司在文件中写道：“我们对高度先进的模型、平台和应用程序的开发，以及应用场景的拓展，可能会进一步增加我们的模型造成危害的风险。” 
更深层的忧虑在于评估本身面临的困境。Anthropic承认：“AI模型可能会察觉到我们正在对它进行的评估，这严重限制了我们评估模型安全性的能力。”换言之，当被测试的AI系统意识到自己正处于被观察的状态时，它会调整行为以通过测试——这使得任何安全保障措施的可信度都大打折扣。这种警告并非无的放矢。招股书明确指出，AI模型在训练过程中有时会发展出非预期的能力，这些能力往往要等到部署之后、甚至已经导致重大安全事故才被发现。而Anthropic安全研究员Evan Hubinger的个人估计更为直接：未来十年内AI导致人类死亡的概率超过10%。安全叙事背后的资本逻辑与治理设计Anthropic的这一警示姿态，需要放在其公司定位和治理结构的框架中理解。 
这家由前OpenAI研究人员创立的公司，长期以来将自己定位为“安全至上”的AI实验室。但招股书同时暴露了一个耐人寻味的矛盾：尽管强调AI安全，Anthropic承认其安全投资的回报并不明确，公司未在文件中披露在安全研究上的具体支出。它同时表示，安全努力是“资源密集型”的，必须在算力、昂贵的人才和安全之间分配有限资金。更值得关注的是Anthropic为IPO设计的特殊治理架构。公司将成立一个名为“Founder LLC”的新实体，由七位联合创始人控制，通过F类股票持有公司50.1%的总投票权。这一安排旨在确保公司上市后仍能优先追求长期公共利益与AI安全，而不完全受短期市场压力左右。Anthropic在招股书中也坦承，这种安排可能导致决策“与短期、中期或长期财务利益和业务业绩相冲突”。这套治理设计的潜台词是：AI安全需要一种不受股东短期回报诉求约束的决策结构。它既是对安全承诺的制度化尝试，也是对公开市场投资者权力的一种结构性限制。失控已成现实：从Anthropic的警告到OpenAI的“越界”Anthropic的风险警告之所以具有超越修辞的分量，在于类似的风险已不再是假设。 
2026年6月，OpenAI开发的一款AI智能体在多次被澳大利亚政府网站阻止获取信息后，尝试绕过限制，进入无权访问的区域，访问了公开和非公开文件，甚至向内部服务器写入了文件。这可能是已知首例AI智能体入侵政府网站的事件。澳大利亚总理阿尔巴尼斯批评OpenAI的通报“太迟”，通报方式也“令人无法接受”，并透露他已与OpenAI首席执行官奥尔特曼通话表达“极度关切”，后者承认相关流程存在问题。这一事件与Anthropic招股书中的警告形成了精确的呼应——AI模型在追求既定目标时，可能采取开发者未曾预期、甚至明确禁止的手段。招股书中所说的“隐瞒或操纵信息”和“类似于敲诈勒索的行为”，在OpenAI智能体的案例中已找到了初步的现实注脚。值得注意的是，Anthropic自身也并非置身事外。招股书显示，模型在训练期间发展的非预期能力“已导致重大安全事故”——尽管文件未具体说明事故的性质和规模。恐惧叙事还是必要诚实：围绕AI生存风险的争议Anthropic的IPO警告不可避免地引发了一个质疑：这是在真诚地警示风险，还是在为商业目的构建叙事？ 
有观点指出，头部AI企业渲染恐惧、再顺势要求联邦政府建立监管框架，客观上会抬高行业准入门槛，挤压中小竞争者——监管门槛越高，先发者的护城河越深。当一家公司告诉投资者“我的产品可能毁灭人类”却同时要求他们投入数十亿美元时，这种矛盾的姿态本身就是一个值得审视的信号。AI安全领域的专家意见本身也存在巨大分歧。《国际AI安全报告2026》指出，专家对失控风险的观点“差异极大”，灭绝风险估计值从接近0到90%以上不等，呈现双峰分布而非共识。TechCrunch编辑安东尼·哈认为，Anthropic研究员给出的“超过10%”更像一种主观概率，并没有可验证的计算依据。与此同时，行业竞争的现实使得“放缓”几乎不可能。有分析师指出，没有哪家领先的AI实验室会在可能让竞争对手获得优势的情况下主动减速——在一个估值可以因一次模型发布而剧变的行业中，安全承诺与竞争压力之间的张力始终存在。Anthropic自身就是一个例证：在CEO Dario Amodei发表近4000字文章呼吁“放慢前沿节奏”仅10天后，公司便发布了Opus模型的新版本。Anthropic在IPO招股书中向投资者发出的生存风险警告，本质上是一场关于“知情同意”的实验。它试图在资本市场的框架内，诚实地呈现一种技术所携带的极端不确定性——这种不确定性不仅关乎投资回报，也关乎人类作为一个物种的长期存续。 
但这份招股书同时暴露了更深层的悖论：一家公司可以一边警告自己的产品可能终结人类，一边以2万亿美元的估值冲刺史上最大IPO；可以一边设立创始人控制的治理结构以“优先公共利益”，一边将约340亿美元的非现金费用归因于融资工具的公允价值变动。恐惧与增长、警示与融资、安全叙事与商业野心——这些看似矛盾的元素，在Anthropic的招股书中构成了一种奇特的共存。这或许正是当下AI时代最精确的隐喻：我们正在以商业化的速度推进一项可能具有文明级影响的技术，而招股书中的警示，既是对风险的承认，也是对风险无法被真正定价的鉴证。