让我们来聊AI · Day 26

AI 该踩刹车了

上周，1300 多人联名签了一封公开信。

签名的人不是普通网民——他们来自 OpenAI、Google、Anthropic、Meta，都是搞 AI 的顶尖工程师和高管。

信的内容不是"AI 太棒了"，而是一句话：拜托，慢一点。

造车的人，要装刹车

这封信叫《Pacing the Frontier》，翻译过来就是"给前沿 AI 调个速"。

核心诉求很简单：别再让 AI 闷头加速了，搞一套国际规则，让大家有序推进，别踩着油门往悬崖上冲。

打个比方：一群造赛车的工程师，造出了世界上最快的车。但他们没有开庆功宴，而是联名写信给组委会——"这车太快了，得装刹车，得有限速，不然迟早出事。"

你说，造车的人自己都怕了，坐在副驾的我们能不怕吗？

他们到底在怕什么？

信里提到了几个具体担忧，我挑三个跟咱们关系最大的说：

第一，AI 开始自己写代码了。

以前是人写代码让 AI 跑，现在 AI 能自己写代码、自己执行。听起来很酷？但问题是——如果 AI 写的代码有 bug，或者干了点人没批准的事，谁负责？目前没人能答上来。

第二，假东西越来越多。

就在这封信发酵的同时，谷歌地球刚上线 AI 生图功能不到 48 小时就紧急叫停了——因为它能把虚构场景叠加到真实卫星图上，生成的假图连检测工具都认不出来。AI 造的假，AI 自己都分不清。

第三，AI 的决策越来越不透明。

你用 AI 帮你写简历、做攻略、分析数据——它给你的结果越来越像模像样。但它为什么这么判断？依据是什么？很多时候连开发者自己都说不清楚。一个你无法理解其逻辑的工具，你敢把重要决策交给它吗？

对普通人意味着什么？

先说结论：不用恐慌，但要清醒。

这封信不是要关掉 AI，而是要给它装个"限速器"。就像汽车有安全带、飞机有黑匣子——不是为了不让你开，是为了让你开得更久。

对我们来说，有三件事现在就能做：

1. 重要的事，别全交给 AI。 AI 帮你查资料、列提纲、写初稿，没问题。但涉及花钱、签合同、做医疗决定的事，最后一步一定要自己把关。

2. 学会问"为什么"。 AI 给你一个建议，别直接照做。多问一句"你的依据是什么"，你会发现 AI 有时候说得很自信，其实没什么硬道理。

3. 假的东西，多渠道验证。 看到 AI 生成的图片、视频、新闻，别急着信也别急着转。尤其是看着特别"炸裂"的内容，越炸越要多看一眼来源。

刹车不是为了停车，是为了开得更远。AI 也一样——不是不让它跑，是得让它跑在路上的同时，别把行人撞了。

今日互动：

你觉得 AI 现在发展太快了吗？还是觉得"越快越好，别管那么多"？评论区说说你的真实感受 👇

昨天聊了「AI 帮你做攻略」，错过可以往前翻。明天见。