AI自己改自己

上周我看完一场对谈，关掉页面之后，在阳台上站了挺久。

天已经黑了，楼下有人在遛狗，谁家在炒菜，锅铲叮当响。

就是特别平常的一个傍晚。

但我脑子里一直在转一个问题：

如果 AI 能自己把自己改强，那我现在干的这些活，还剩多少是只有我能干的？

那场对谈讲了啥

9 月 11 号前后，Dwarkesh Patel 拉了三位真在一线的人聊了一场：

• Beren Millidge
  ，Zyphra 的 CTO
• John Schulman
  ，Thinking Machines 的首席科学家
• Charlie O'Neill
  ，Baseten 的模型训练负责人

聊的主题叫递归自我改进（RSI）。

说人话就是：

AI 能不能自己改自己，改完变强，变强之后再改自己，一路往上滚？

这事儿要是真成了，那就不是"AI 进步"了，是进步本身在加速。

但他们仨吵起来了，这点让我意外

我原本以为这种对谈，最后会得出个"快了"或者"还早"的结论。

结果不是。

他们仨在很多关键点上分歧明显——具体的技术瓶颈在哪儿、什么才是真正的拦路虎、这条路还走得通走不通，说法都不一样。

我列几个我听懂的：

• 蒸馏的墙
  ：让大模型教小模型，教着教着，能力是有上限的，不是无限传下去。
• RL 环境的墙
  ：要让它"自己练"，你得先有能让它练的环境。可现实世界的任务，哪有那么多现成的评分标准？
• 规模的账
  ：参数堆大还能涨多久？花出去的算力和换回来的能力，这笔账是不是越来越不划算？

这些我都是听个大概，细节我承认自己没全吃透。

但有一点是听明白的：到底卡在哪儿，一线的人自己也没定论。

我反而不那么慌了

说出来你可能不信。

看完之后，我心里那点焦虑，反而散了大半。

原因挺朴素：

当最懂这行的人都在公开争论"到底行不行"的时候，说明这事儿还没到"就要发生"的程度。

真正要发生的事，是不用吵的。

就像当年谁也没争论"移动互联网会不会来"——因为它已经来了。

但我确实开始想另一件事

焦虑散了，不代表可以躺着。

我想的是：如果这条路真的走得通，那最先被替代的是什么？

琢磨了几天，我觉得答案挺残酷的：

最先被替代的，是"熟练"。

你把一件已经有人想明白的事，做得又快又好——这个能力，机器迟早会。

不容易被替代的，是"判断"。

什么事值得做、什么活不该接、哪个方向是死路——这些没人能给标准答案，也就没人能训练出来。

还有一样：责任。

出了事，得有一个人站出来说"我负责"。

这一条，机器永远替不了。

RSI 到底卡在哪儿、这些技术瓶颈人话怎么讲、对咱写代码的人意味着啥，第二篇我尽量给你说清楚。

回到那个傍晚。

我在阳台上站了一会儿，闻着楼下飘上来的饭菜香，突然就踏实了。

不管技术怎么变，日子还是得一顿一顿过。

我能做的，也就是把手头这点活干得再实在一点，把该担的责任担住。

剩下的，吵去吧。

你有没有被"AI 会不会取代我"这个问题困扰过？评论区聊聊你现在的想法。