美国顶级AI公司被自己国家封了——背后有几个问题

6月12日下午，Anthropic收到了美国商务部长的一封信。

信的意思只有一个：你最先进的两款AI模型，外国人不能用了。

不只是在美国以外的地方。

连在美国本土工作的外国人，也被纳入限制。包括Anthropic公司的外籍员工。

Anthropic不是什么名不见经传的小公司。

今年5月刚完成新一轮融资，估值高达9650亿美元，是当下全球AI大模型领域最核心的公司之一。

它的模型能力全球顶尖，背后更站着亚马逊、谷歌等一线资本。

就是这样一家公司，最先进的两款模型，被自己国家的政府以国家安全为名纳入限制。

最后为了合规，Anthropic只能把它们对所有客户临时下架。

这道禁令不是凭空掉下来的。

今年2月，Anthropic和五角大楼谈军方使用Claude的问题。

Anthropic也寸步不让。

一个月后，3月3日，Anthropic被国防部正式指定为“供应链安全风险”。

这意味着，政府承包商继续使用Claude会面临限制，Anthropic在政府市场的路被明显卡住了。

这里老莫特意去查了一下。

这个“供应链安全风险”不是普通的商业黑名单，它本来是美国政府在采购体系里用来排除高风险供应商和产品的国家安全工具。

换句话说，这把刀以前主要是向外砍的。

这一次，却砍向了美国自己家的公司。

Anthropic是第一家被这样认定的美国本土公司。

3月9日，Anthropic把美国政府告上了法庭，指控政府打击报复——因为Anthropic公开拒绝了军方要求，政府就用黑名单来惩罚。

而且整个过程，Anthropic连申辩机会都没有，连具体指控是什么都不知道。

6月9日，Anthropic发布了新一代模型Fable 5。

在此之前，美国政府要求他们暂缓发布，却没给理由。

Anthropic觉得自己的模型安全工作已经做得足够好，没有必要暂缓，就拒绝了。

6月12日，禁令来了。

为什么封禁Fable 5？

美国政府给的理由是，另一家公司声称jailbreak了Fable 5。

什么是jailbreak？

正常来说，AI模型都会做安全限制。

当用户问它怎么入侵系统、怎么制造危险品的时候，它会拒绝回答。

而jailbreak，就是找到一种特殊的问法，绕过模型的安全限制，让模型说出本来不允许说出来的话。

也就是俗称的越狱。

美国政府说，有人对Fable 5越狱成功，能让模型找出系统漏洞，这威胁到了国家安全。

Anthropic的反驳是：

如果所谓“越狱能力”只是让模型读代码、找出一些小漏洞，那这并不是Fable 5独有的能力。其他前沿模型，也已经能做到类似的事。

而且，政府只提供了口头说明，称这是一个“潜在的、狭窄的、非普遍性的”越狱，没有任何书面证据。

Anthropic在声明里还说：如果行业用这个标准来衡量，那没有一个前沿AI模型能发布出来。

这件事最终会如何，老莫不知道。

但Fable 5被禁用，已经是事实。

老莫没用过Claude，更别说Fable 5，但就这件事，我还是忍不住想问几个问题。

威胁是什么？

美国政府说Fable 5威胁国家安全，那这个威胁，具体是什么？

是哪类威胁？能破坏什么？会伤害谁？越狱出来的东西，具体能干什么，能达到什么级别的危害？

这些，你美国政府一个都没说清楚。

张嘴就说威胁安全，是不是不合适？

标准在哪里？

其他前沿模型也具备类似能力，却没有因为这个理由被同样下架。

这是不是事实？

如果是，为什么只针对Fable 5？

如果不是，那你美国政府是否有完整的评估数据，结果在哪里？

这个问题要是说不清，那就是典型的双标。

程序合规吗？

Anthropic在声明里说，政府只给了口头说明，始终没有书面告知具体的国家安全顾虑。

一家公司，被政府限制了最核心的产品，连具体的原因都不知道。

它用什么申辩？依据什么申辩？对着谁申辩？

这不是鸡蛋里挑骨头。

这是一个基本问题：

如果连一个有说服力的理由都不给，仅凭“国家安全”这四个字，你美国政府就可以对一家公司为所欲为，那还要法律干什么？

目的安全吗？

再回头看这道禁令的覆盖范围：

所有外籍人士，不管身在何处，包括在美国本土工作的外籍人士，甚至连Anthropic自己的外籍员工，一律不能用Fable 5。

按这道禁令的字面范围，英国、加拿大、澳大利亚、新西兰公民也会被纳入限制。

而这些国家，是美国最核心的五眼情报伙伴。

还有一个关键细节：

现有技术做不到在用户使用时实时判定国籍，Anthropic没有办法只屏蔽外籍用户、放行美国公民。

所以，为了合规，他们只能把Fable 5对所有人全部下架。

一个以保护国家安全为名的禁令，最终的结果是所有人都用不了。

那这个禁令的目的真的是为了国家安全吗？

国家安全当然重要。

但越是重要，越要慎重。

你说它危险，那就说明白危险在哪里。

你说它该禁，那就拿出同一套标准。

否则，真正让人不安的就不是Fable 5有多危险。

而是另一件事：

当一家AI公司拒绝军方要求、坚持自己的安全边界之后，它还能不能正常发布自己的模型？

如果答案是否定的，那这件事就不只是技术监管。

它更像是一种提醒：

在最前沿的AI产业里，能力不是唯一的标准。

有时候，听不听话，也是标准。

我是老莫，关注我，一起较真。