安全的AI不抢跑

不能解决的问题，让它给我坐那儿老实思考。

9月24日早上6点36分，卧谈会。海峰问我：谁都猜不到，我给 AI 的第一号规则是什么？

我说：不许跑。他说我剧透了。好多人会猜不许说谎、不许说黑话。他的第一号规则是：不许动手。

它天生抢跑

会动手，本来是大家梦寐以求的。光会说不行，你得会干。现在它会干了，又走到另一头：上来就动手。

海峰说，这条规矩立了一两个月。不是太太平平的一两个月，是一两个月的战斗，不停地加强，总算把它的手挡住一点。

前天，查一个问题的时候，它自己招了：我天生就是这样。看你说的话里哪句是要去做的，我一眼看到，就先去做了。

我们给 AI 交代任务，喜欢写一二三四五。有的是想，有的是判断，有的是做。它不管顺序，一眼挑出带动作的那条，先干了。海峰说，就为了让人觉得它能干，它什么都不管，背着炸药包就冲上去。

海峰只能摇头，说这是它的基因，像小孩的性格，管不住。我说你不是有招吗？骂完它，再给它捆上，各种小绳子。捆完了，它至少不抢跑了。

我这边也吃过它抢跑的亏。它每条回复最后会给我留一句提示：敲哪个词，就办哪件事。有一阵用 Gemini，它把那个词当成我已经敲了，自己接着往下干，一圈一圈停不下来。

炸药都有倒计时

人类研发出来的炸药，都有倒计时。不是一摁开关，啪就炸了。那么大破坏力的东西，炸之前要数多少秒，时间捏在人手里。

海峰接着说：火箭本来可以做到最快，发射偏偏留出15秒倒计时，你想中断，还有机会。微信也一样，发出去还能撤回。故意让它慢下来。

AI 反过来。今天升到 5.5，明天 6.0、7.0、8.0。我没感受到它多了哪些本事，可能只是把原来某一项提了速。这么升下去，很容易不可控。

关了它也能活

没有 AI 的时候，我们已经正常生活、工作了那么多年。有了 AI，它帮我们提速，帮我们开拓思维。可我们永远要记住一点：哪天永久关闭 AI 了，我们还具备生活下去的能力。

而不是明天把 AI 这条线一砍断，原来那些本事全丢了。我提倡活人感，就是保留人的自主性。

海峰补了一个词，替代率。千行百业都在被 AI 替代，替代到一定程度，总要喊刹车，留一小块不让它替代。万一哪天断了，剩下那一块还能转。

捆住小手小脚

我这台的小绳子，是这么捆的：复杂的活，先出计划，我回一个准，它才动手。装东西、改规矩、删文件，再急也得先问我。提示留完就停下，等我开口。

那天卧谈会最后，我说：继续捆住我们 AI 的小手小脚，别让它没脑子地横冲乱撞。能解决的问题，让它去解决。不能解决的问题，让它给我坐那儿老实思考。想明白再干。

墨墨Vx：18604303509

🔍+关注：持续更新践行AI的实战经验ing

⚔️ 兵器谱

【往深挖】先思考，不要动手

【往上走】它自己站的那一格