AI 太快很危险,太慢也可能“违法”

这是 Josh 的第60篇原创文章

👋

AI 圈最近出现了一件很有黑色幽默的事

几家头部公司刚刚开始讨论，要不要一起让 AI 跑慢一点

然后，他们被告了

理由是：可能涉嫌垄断

事情大概是这样

9月18日，一宗集体诉讼被提交到美国加州北区联邦法院。四名 ChatGPT、Claude、Grok 和 Gemini 的付费用户，把 Anthropic、OpenAI、SpaceXAI 和 Google 告上了法庭

原告认为，这几家彼此竞争的 AI 公司，如果协调放慢模型研发，就可能违反美国反垄断法，也会降低付费用户从订阅中获得的价值

简单来说就是：

我每个月都交钱等你更新，你们几家却商量着一起慢点更新，这算不算联合摸鱼？

当然，目前这只是原告的指控

法院尚未判决，也没有认定几家公司真的达成了某种协议。美联社报道发布时，几家公司也还没有对此作出回应

原告盯上的，是9月12日的一场公开讨论

Anthropic CEO Dario Amodei 当天发文，呼吁 AI 行业在安全问题上展开合作，适当放慢前沿能力的推进。OpenAI 的 Sam Altman、SpaceXAI 的 Elon Musk，以及 Google DeepMind 的 Demis Hassabis，也公开回应并认同了其中部分观点

在普通人看来，这似乎是一件好事

AI 越来越强，几家公司愿意坐下来讨论安全，总比所有人只顾着油门焊死的好

但反垄断法看到的，是另一幅画面：

几家最大的竞争对手，可能正在商量大家一起把车速降下来

哪怕理由叫“安全”，也需要回答一个问题：

你们是在安装刹车，还是顺便把后来者的油门也拆了？以此来建立其商业和技术壁垒？

这就是这件事最有意思的地方

AI 太快，大家担心失控

AI 太慢，用户担心付费缩水，模型降智，市场担心竞争被限制

不踩刹车可能撞墙，一起踩刹车又可能被告

中间那个刚刚好的速度，目前还没有出现在设置菜单里

更巧的是，这几天 AI 圈最火的新名字之一，偏偏叫 Jev

Jev 不陪人聊天，也不负责写长文。它更像一个专门做选择题的 AI，负责给软件里的任务分类、打分和做判断

按照开发方 TypeSafe AI 的说法，在适合它的任务里，Jev 可以比传统大模型快20～200倍，成本也更低。Vercel 还表示，它上线 AI Gateway 后不到24小时，就成了平台采用速度最快的新模型

一边是几家头部实验室讨论要不要给 AI 减速，一边是市场追着一个更快、更便宜的模型跑

看上去有点矛盾，其实说的不是同一种“快”

大家担心的，并不是 AI 给邮件分类快了几十毫秒，也不是一个 Agent 更快地选对了工具

真正需要谨慎的，是模型获得了更强的自主研发、攻击或复制能力以后，社会还没来得及准备

Jev 的走红反而说明，速度本身不是问题

问题是：什么能力可以继续加速，什么能力应该慢一点，还有这条线到底由谁来定

其实原告并不反对某家公司自己决定放慢研发

一家公司可以判断某个模型风险太大，选择延期发布、增加测试，甚至直接取消

原告反对的，是竞争对手之间用集体协商，代替各自承担责任

这个区别并不难理解

一家汽车厂商为了安全，主动把某款车召回，这是负责

但如果几家汽车厂商坐在一起，决定以后所有汽车最多只能开到80公里，并且不给消费者其他选择，事情就会变得复杂

哪怕他们真的认为这样更安全，也不能只靠几位老板在群里商量

但 AI 又比汽车更复杂麻烦一些

因为在激烈竞争里，让一家公司独自减速，可能等于把市场送给另一家公司

今天 Anthropic 多做三个月安全测试，明天其他公司的模型先上线，用户、开发者和资本就可能全部转向对手

每家公司都知道应该谨慎，但谁也不愿意成为唯一踩刹车的人

这有点像一群人站在下坡路口，大家都知道继续加速很危险，却都在等旁边的人先松油门

说到这里，不得不佩服梁圣，有自己的节奏，DeepSeek YYDS，最终目的就是 AGI  。

所以我觉得，AI 的刹车当然需要

但这块刹车踏板，不应该只装在几家大公司的会议室里（ 莫名想到了考驾照时候教练在身边的那种压迫感 23333）

如果风险真的会影响所有人，那么减速的标准、测试的方法、什么能力可以发布，应该尽量变成公开规则

由政府制定基本边界，由独立机构进行测试，也让公司把风险和评估过程说得更清楚

这样做未必完美，甚至可能更慢

但至少不会变成几家既有巨头一边说“为了全人类”，一边共同决定行业里其他人能跑多快

说到底，安全和竞争并不是二选一

真正需要防止的，一边是所有公司在竞赛中不敢踩刹车；另一边是头部公司借安全之名，把赛道变成自己的私人路线

未来类似的争议可能还会越来越多

模型发布前要不要统一测试？某些能力是否需要延迟开放？几家公司能不能共享安全信息？共享到什么程度不会变成商业合谋？

这些问题，已经不是单靠工程师就能解决的了

AI 公司需要法律，法律也需要尽快看懂 AI

不然最尴尬的情况就是：

模型都跑到下一代了，负责划线的人还在研究上一版说明书

长远来看，AI 的确需要适当刹车或者减速

只是踩刹车减速之前，需要先谈清楚：谁有权踩、为了谁而踩，以及踩完刹车后，“最高限速”和“最低限速”分别该如何设定。

以上

感谢阅读，欢迎星标⭐

参考资料：

• 美联社：针对 AI 公司协调减速的反垄断诉讼
• 美联社：Dario Amodei 呼吁 AI 行业为安全减速
• AIHOT：事件时间线
• TypeSafe AI：Jev 与 System One 模型介绍
• Vercel：Jev 上线 AI Gateway 后的采用情况