当前时间： 2026-08-17 17:50:22
分类：办公文件
评论(0)
最强 AI 被禁,不是因为不安全,是因为不听话6 月 9 日，Anthropic 发布了 Claude Fable 5，号称是他们有史以来最强的模型。开发者社区炸锅了，所有人都在跑测试，有人一晚上烧掉 110 美金的 token 费，评价是「慢，贵，但能力是真的强」。不是服务器宕机，不是临时维护。是美国政府下了一道出口管制令，要求 Anthropic 立刻停止向所有外国人提供这两个模型的访问权限。包括 Anthropic 自己公司里的外国员工。从收到政府通知到必须执行，Anthropic 只有 90 分钟。没有预警，没有过渡期，没有「请在一周内迁移你的代码」。就是直接断掉。有开发者在技术论坛上写，我的代码跑着跑着就开始报错，API 返回的不是结果，是一条冷冰冰的系统消息。这是 AI 行业有史以来第一次，一个前沿模型被政府强制下线。具体来说，是有人发现了一种方法可以绕过 Fable 5 的安全护栏，让它输出一些本来不该输出的内容。政府认为这构成了国家安全威胁，所以动用了出口管制条款。事情是这样的。周四晚上，Amazon CEO 打电话给财政部长，说他们的安全团队发现了 Fable 5 的一个「jailbreak」漏洞。白宫立刻紧张起来，连夜联系 Anthropic，要求他们要么修复这个漏洞，要么把模型下线。Anthropic 的 CEO Dario Amodei 拒绝了。他的理由是，这个所谓的「jailbreak」根本不严重。它只能绑过一些很窄的限制，而且其他公开的模型，比如 GPT-5.5，其实也能做到同样的事情。换句话说，这不是 Fable 5 独有的问题，禁掉 Fable 5 根本解决不了什么。一位政府官员后来对媒体说了一句话，原话是「They screwed us」。另一位官员的说法是「personality clashes」，态度冲突。不是 Anthropic 的技术有问题，是 Anthropic 的态度让白宫不爽。你想想这个画面。政府说，你这有安全隐患，赶紧处理。公司说，我们评估过了，不严重，不用管。政府说，我们认为很严重。公司说，你们不懂技术。早在今年 3 月，美国国防部就已经把 Anthropic 列为「供应链风险」。原因是什么？不是因为 Anthropic 的模型不安全，恰恰相反，是因为 Anthropic 拒绝配合。据说，政府曾经希望 Anthropic 为大规模国内监控和全自主武器系统提供不受限制的模型接入。Anthropic 拒绝了。所以当 Fable 5 出来，Amazon 报告了一个「jailbreak」，白宫几乎是立刻就动用了出口管制令。有安全专家站出来反驳。他说，开源的中国模型现在也能做到同样的事情，我们把自己最强的模型禁掉，同时知道对手在囤积这些漏洞，这不是谨慎，这是愚蠢。模型还是下线了。全球范围内，无论你是付费用户还是 Anthropic 的员工，只要你不是美国公民，你就用不了了。这是 AI 行业有史以来第一次，一个模型被按照国籍限制访问。Anthropic 是 AI 行业里最强调「安全」的公司。没有之一。他们的 CEO Dario Amodei 公开说过，他认为有 25% 的概率，AI 发展会导致「非常非常糟糕」的结果。他们倡导出口管制，呼吁政府监管前沿模型，把自己定位成「比任何人都认真对待安全」的那一家。然后，当政府真的指出一个安全问题时，他们的反应是「这不严重」。Anthropic 想要的「安全」，和政府想要的「安全」，可能从来就不是一回事。Anthropic 的安全观是技术层面的，模型不能被轻易操纵去做坏事，不能帮人写病毒，不能教人造炸弹。政府的安全观是地缘政治层面的，这个技术不能落到对手手里，不能给敌对国家提供任何优势。对普通用户来说，这件事可能感知不强。Fable 5 反正也贵，也慢，大部分人可能还没来得及用就没了。第一，云端 AI 模型的「断供风险」第一次从理论变成了现实。以前大家讨论「如果 OpenAI 或者 Anthropic 突然对某个地区停止服务怎么办」，都是假设性的担忧。现在不用假设了，真实案例来了。72 小时，90 分钟，没有任何缓冲。如果你是开发者，你的产品核心依赖某一个模型的 API，这件事应该让你认真考虑一下备选方案了。有两个科技圈的知名人物几乎在同一时间说了同一件事。一个说，各国为了避免被断供，会加速发展自己的主权 AI，会更依赖非美国的开源权重模型。另一个说，开源是企业长期自主性的救生梯。Fable 5 被禁可能只是催化剂。真正的趋势是，开源权重正在变成一种数字主权的象征。以前是政府追着公司问「你们这个技术会不会有危险」，公司可以慢悠悠地出白皮书、做自愿承诺、参加听证会。现在不一样了。政府可以直接动用出口管制令，90 分钟内让你最强的产品从互联网上消失。这不是一个关于「AI 安全漏洞」的故事。这是一个关于「AI 公司该听谁的话」的故事。Anthropic 花了好几年建立起「我们比任何人都认真对待安全」的人设。但当政府真的拿「安全」来要求他们的时候，他们发现，「安全」这个词的定义权，从来不在他们手里。以上，既然看到这里了，如果觉得不错，随手点个赞、在看、转发三连吧，如果想第一时间收到推送，也可以给我个星标⭐～谢谢你看我的文章，我们，下次再见。
夜雨聆风