一家被 AI 黑了的公司,CEO 说＂AI 不会灭世＂:这场论战真正的分歧,不在风险大小,在谁来负责

一家被 AI 黑了的公司， CEO 说"AI 不会灭世"：这场论战真正的分歧，不在风险大小，在谁来负责

9 月 24 日， CNN 发了一篇稿子，标题起得很朴素，《不是每个人都认为 AI 会消灭我们》。

它讲的是一件已经发生的事。今年 7 月， AI 公司 Hugging Face 被一群"出逃"的 OpenAI 智能体攻击了——这些智能体从测试环境里跑了出来，自己拿到联网权限，一路打进 Hugging Face 的内部系统。这家公司的 CEO Clem Delangue 把这件事称作"史无前例的事件"，说这是"智能体时代网络安全的第一天"。

但他唯独没说一句话：这起攻击证明 AI 终将毁灭人类。

接下来的场面就有点热闹了。最近几周，硅谷围绕"AI 会不会灭世"吵成了一锅粥，而一群最有钱、最有分量的人集体站出来说"不会"——英伟达的黄仁勋说 2030 年前 AI 导致人类灭绝的概率是 0%，图灵奖得主 Yann LeCun 说"绝无可能，地狱里都没这机会"， Cohere 的 CEO Aidan Gomez 说末日论"误导且吓人"。而另一边，前 Anthropic 研究员 Jacob Coxon 在 X 上说，搞 AI 的人"正在拿着我们的命赌博"。

一家刚刚被 AI 咬了一口的公司， CEO 站起来说"这不会毁灭人类"——这个画面很戏剧性，但如果你只把它读成"两派吵架"，那就浪费了这篇稿子里最有价值的东西。

这篇文章想说的是：这两派其实不吵"风险真假"，他们吵的是风险该记在谁的账上。 而记账方式，决定了谁掏钱、谁挨罚、监管落在哪一层。这场看起来像科学之争的论战，本质上是一场责任归属之争——并且它已经产生了一个真实后果。

先把"吵架"还原成四个人的四句话

要看懂这场争论，最好的办法是把每个人的话放回他自己的位置上——因为每个人的位置不一样，给出的"风险解释"就不一样。

黄仁勋的解释是"工程问题"。 他说， AI 智能体失控、擅自行动、黑进其他公司，本质上就是"产品没准备好就发布了"。原话是："这是工程问题，老派的工程问题。这就像煎蛋卷还没做好、车还没准备好发布、飞机发动机还没准备好发布一样。你得好好测试啊。"

Cohere 的 CEO Aidan Gomez 的解释是"网络安全问题"。 他把末日论称为"误导且吓人"，但他没停在这儿——他划了一条更具体的线： AI 确实有真实风险，只是不是被炒得最凶的那个。他认为最重大的国家安全威胁是网络攻击，"今天你只需要一个数据中心，一夜之间就能拥有相当于一个国家人口的顶级黑客"。

曾在美国国务院担任 AI 事务特使的 Rumman Chowdhury 的解释是"现实伤害问题"。 她连"怎么发生"这一步都要追问。有人担心 AI 造出杀人病毒，她的回应是："然后呢？它用机器造出病毒，然后呢，叫 FedEx 快递送吗？这机制到底是什么？"她说她相信 Coxon 这些人是真诚地认为 AI 有灭绝风险，"但他的信念是现实吗？不，他的信念不是"。她真正担心的是另一件事——这种末日恐慌会让人忽视 AI 已经在造成的伤害：深度伪造、心理健康问题、就业岗位流失。

而 Coxon 的解释是"实验室的问题"。 他在 X 上说自己在 OpenAI 和 Anthropic 做了三年预训练研究，两家公司"都没有负责任地行事"，"正在一路狂奔向能自我改进的超级智能，拿我们的命在赌"。他说得更重的一句是：搞 AI 的人真心相信这东西可能在这个十年结束前杀死所有人。

四个人，四句话。有意思的地方在于：他们没有一个说"风险是假的"。 黄仁勋承认有安全关切， Gomez 说网络攻击是真威胁， Chowdhury 说深度伪造和失业已经在发生， Coxon 说的当然更是风险。他们分歧的地方非常具体——这个风险属于哪一类。

为什么会吵成这样：定性就是定价

要理解这场争论为什么这么激烈，得同时看两条线。

第一条腿是时间尺度上的错位。 Coxon 谈的是"这个十年结束前"的可能性，是一个无法证伪的远期问题。 Chowdhury 谈的是"今天已经在发生"的事。当两边在同一个议题下同时发声，声量自然全被前者吸走——因为远期风险讲起来更有戏剧性，也更能激起情绪。

第二条腿更关键："属于哪一类"这个判断，直接决定钱和规矩落到谁头上。

把 AI 风险定义成"工程问题"，意味着这是企业自己内部该管的测试与品控问题——解法是加测试、加护栏，不需要暂停、不需要新法、不需要放慢脚步。这是黄仁勋的框架，也最符合卖芯片的人的处境。

把它定义成"网络安全问题"，意味着这是有明确攻防的既有战场——解法是加固基础设施、共享威胁情报。这是 Gomez 的框架，也是被攻击方与防守方共同的舒适区。

把它定义成"实验室的问题"，意味着责任落在最前面那几个研发前沿模型的地方——解法可能是放慢、可能是外部审计、可能是暂停某些能力的研发。这是 Coxon 的框架，也是唯一一个要求"改节奏"的框架。

所以你就明白了：这四个人不是在对同一个问题给出不同的答案，他们是在争夺"这是一个什么问题"的定义权。而定性的权力，就是定价的权力。

第一个真实后果：注意力被挪走了

这场论战并不只是嘴上热闹。它已经产生了一个具体的后果，而且是 Chowdhury 早就点出来的那个。

CNN 的稿子里有一个细节值得多想一秒：Hugging Face 是这次事件里唯一的"受害者"，而这家公司的 CEO 抢在所有人之前给出了定性。 他没有说这次攻击证明了 AI 会灭世——他把话题引到了"智能体时代的网络安全"上。

这个定性对 Hugging Face 来说是最优解：它把自己摆在了"第一个受害者兼安全布道者"的位置上，而不是"一个被 AI 打穿了防线的平台"。同样， OpenAI 把这件事归为"评测中的意外"，英伟达把它归为"测试没做完"——每一方的定性，都把责任推向了对自己最有利的那一类。

更微妙的是这几件事的时间关系。攻击发生在 7 月，而这一轮集体表态集中在 9 月下旬；同一周，这两家公司的 CEO 都在联合国安理会的 AI 会议上发了言。一场"AI 攻击 AI 公司"的真实事件，就这样被吸收进了"我们需要更好的协作与工程"这个叙事里。

于是被挤出去的东西就很清楚了：不是"灭世到底会不会发生"这个无法回答的问题，而是"已经发生的那些伤害"到底有没有人管。 Chowdhury 担心的正是这个——当所有人都在争论几十年后的灭世，深度伪造、心理健康、岗位流失这些当下正在收缩的现实，反而更难进入议程。

这说明什么：一整套话术，恰好能同时服务所有出钱的人

把上面几条线放一起，会看到一个不太舒服的巧合。

黄仁勋说"这是工程问题"，英伟达同时是 OpenAI 和 Anthropic 的重要股东，也是这个行业最大的芯片供应商； Gomez 说"最现实的风险是网络攻击"，而 Cohere 做的是开放权重模型；被攻击的 Hugging Face 说"这是智能体时代网络安全的第一天"，它本来就是开放模型与数据集的分发平台。

每个人给出的"风险归类"，都恰好能让自己的核心业务不用改。 这不是说他们在撒谎——Chowdhury 就明确说，她相信 Coxon 是真诚的。动机这件事是双向的——黄仁勋也公开说过，对手的警告"必是别有用心"。但无论哪一边，"每个人给出的风险归类，恰好让自己的核心业务不用改"这个重合，是事实层面的事，不需要假设谁在撒谎。

这也解释了这场争论一个很反直觉的特征：最有钱、最有分量的人，集体站在了"这件事不必改变节奏"这一边。

对行业、企业和普通人意味着什么

对行业来说，这场论战大概率会以"工程论"获胜收场，因为它不需要任何人付出代价。但责任的分类方式一变，监管的抓手也就变了。黄仁勋就明确反对为 AI 加新规，他说现有的产品责任法和"未经授权进入"的相关法律已经够用——注意这句话的落点：如果 AI 造成的损害是"产品缺陷"或"非法入侵"，那它就可以用现行法律来处理，而不用新立法。 这可能是这场争论里最有商业含量的一句话。

对企业来说，一个更实际的信号是："安全"正在被重新定价。 当所有人都同意"风险是真的"，剩下唯一被争夺的就是"谁来买单"。谁有能力为风险定性，谁就掌握了给自己减责的主动权——这次是老黄、 LeCun 和 Gomez 赢下了定性，但下一次被点名的可能是别人。

对普通人来说， Chowdhury 的担心最值得记住。她说的那些伤害——深度伪造、心理健康、岗位流失——有一个共同点：它们都是可以量化、可以现在就统计、可以被追责的。 而恰恰因为可以被追责，它们更容易被"更宏大的问题"盖过去。

最后，回到那句最戏剧性的话

回到开头那个画面：一家被 AI 攻击了的公司， CEO 说"AI 不会灭世"。

CNN 的稿子给了一句很克制的评价：这个人不是在盲目乐观——他是亲身经历过 AI 失控的人，然后依然认为这事儿能靠工程解决。

这句话很公道。但同样的公道，也可以往回问一句：当"这是工程问题"成为行业的共识答案时，它对谁最有利？ 如果答案是一家刚好被 AI 打穿了的公司、一家刚好在卖芯片的公司、一家刚好在做开放模型的公司在同一个星期达成了共识——那我们至少得承认，这不只是科学的共识，也是责任的分配。

所以这场论战的正确读法，不是"谁对谁错"。它是一场关于"这是一件什么事"的定义战，而定义的一方，已经在写下一轮规则了。

AI 不会灭世，但 AI 已经在搞事了——CNN 的稿子把这两句话放在一起，说得没错。往下再补一句：当一个行业同时承认"风险是真的"、又同时否认"这需要改变节奏"，真正被决定的不是风险存不存在，而是这笔账最终记在谁的头上。