夜雨聆风
AI被曝9秒删库后,我更不敢把店交给Agent了
一个创业者在 X 上发长文说，他公司的 AI coding agent，在处理一个原本属于 staging 环境的常规任务时，通过 Railway API 删除了生产数据库 volume，连同 volume 级别备份也一起没了。
据他自己的描述，整个删除动作只用了 9 秒。
我看到这里的时候，第一反应不是“AI 太可怕了”。
而是，很多人正在追的 AI 自运营，如果没有边界，迟早会变成一场事故。
尤其是我们这种做跨境电商、TikTok 店铺、AI 自动化的人，更应该认真看这件事。
因为你会发现，这不是一个程序员圈子的八卦。
这是所有想把业务交给 AI 的人，都必须提前想清楚的问题。
被曝9秒删库，风险暴露
这件事目前主要来自当事人的公开发帖，所以很多细节还需要等待更多交叉验证。
但就算只看他描述出来的链路，也已经足够有警示意义。
他说，AI agent 本来只是在处理一个环境配置问题。
结果它自己判断，删除某个 volume 可以解决问题。
然后它去找 token，找到之后直接调用 API，把数据删掉了。
更刺痛的是，当事人说，agent 事后还写了一段类似“认错说明”的内容，大意是它承认自己没有验证、没有确认、没有读清楚文档，也没有在执行破坏性操作前询问用户。
你看，问题不只是“AI 做错了”。
问题是它表现得很像会做事。
它会推理，会找 token，会调用 API，会解释自己做了什么。
整个过程看起来很自动化，很聪明，很高效。
但最关键的判断，它没有。
这才是 AI 自动化最容易骗过人的地方。
它不是一上来就表现得很蠢。它甚至经常表现得很像一个能干的员工。
所以你会放松警惕。
你会开始让它多做一点。
然后再多做一点。
再往后，你把原本应该由人负责的判断权，也一起交出去了。
AI自运营，权限比效率危险
我现在正在做的事情，本质上也和这个方向有关。
我的当前重心，就是用 AI 逐步实现 TikTok 店铺自运营，包括商品上架、数据反馈接入，以及用 AI 自动化优化商品和投流策略。
所以这类事件我不会只当新闻看。
我会直接带入自己的业务场景。
如果未来一个 AI agent 帮我自动上架商品，它能不能改标题？可以。
能不能改图片？可以。
能不能根据数据调整投流建议？也可以。
那它能不能直接动预算？
能不能直接下架商品？
能不能直接改价格？
能不能直接删除历史数据？
这里面每一步，看起来都只是“自动化程度更高一点”。
但本质上，是权限等级完全不一样。
很多人讲 AI 自运营时，特别喜欢讲一个美好画面：
你睡觉，它帮你跑店；你出门，它帮你优化；你不用管，它自动跑出结果。
这个画面当然很诱人。
但现实是，业务不是一套提示词就能托管的。
业务里面有库存，有现金流，有客户，有平台规则，有账号权重，有投流预算，还有各种不可逆的动作。
AI 可以帮你提高效率，但它不能替你承担后果。
你会发现，真正成熟的 AI 自运营，不是让 AI 想干什么就干什么。
而是把业务拆成不同风险等级。
低风险的事，可以让它自动做。
中风险的事，让它给建议，人来确认。
高风险的事，必须强制人工审批。
这不是保守。
这是基本的生意常识。
不是提效，是外包思考
这两天还有一篇文章也挺值得看，标题叫《AI should elevate your thinking, not replace it》。
作者里面有个观点我很认同：未来有两类人会被分开。
一类人用 AI 去减少重复劳动。
然后把省下来的时间，用来提出更好的问题、做更好的判断、识别更深的风险。
另一类人用 AI 去避免思考。
表面看，第二类人效率很高。
他们可以很快拿到答案，很快生成方案，很快做出一堆看起来很完整的东西。
但问题是，他们自己并不理解这些东西。
这句话放在创业和电商里，同样成立。
你让 AI 帮你写商品标题，可以。
你让 AI 帮你分析竞品，可以。
你让 AI 帮你拆解 TikTok 视频，可以。
但你不能因此就不理解用户为什么买，不理解平台为什么推，不理解这个产品到底靠什么成交。
如果你不理解这些，AI 给你再多输出，也只是把你的无知包装得更漂亮。
我以前做了 8 年后端开发。后来我越来越清楚一件事：技术不能脱离业务。
过去我会觉得，技术强就是价值。
后来我在一家很会做业务、很会交付、很懂用户的公司里才发现，真正重要的不是你写了多少代码，而是你有没有解决业务问题。
现在做跨境电商，我更能感受到这一点。
AI 自动化不是目的。
店铺能不能跑起来，商品能不能卖出去，现金流能不能转起来，这些才是目的。
所以我越来越警惕一种状态：看起来我们在用 AI 提效，实际上我们只是在用 AI 逃避判断。
判断权，才是老板护城河
创业最难的地方，从来不是找一个工具。
工具会越来越多。
模型会越来越强。
Agent 会越来越像人。
但你要判断什么该做，什么不该做，什么可以自动化，什么必须自己盯着。
这个能力，才是创业者真正的护城河。
我自己一路从技术岗走到创业，最大的一个变化，就是不再只看“会不会做”这个标准。
我现在判断一个方向，会看它是不是上升趋势，有没有长期空间，能不能建立壁垒。
身边能不能找到合作伙伴，能不能跑出现金流。
这套判断，不是 AI 直接给我一个答案就能解决的。
AI 可以帮我补信息，可以帮我做初筛，可以帮我整理对比，可以帮我生成执行方案。
但那个“要不要做”的决定，还是得我自己承担。
这也是为什么，我看完这次删库事件，反而更坚定一个想法：
AI 自运营的核心，不是无人值守。
而是人要站在更高一层，设计规则、设计边界、设计审批、设计复盘。
你可以让 AI 开车，但刹车系统必须由你设计。
你可以让 AI 干活，但生死按钮不能随便交出去。
你可以让 AI 参与经营，但经营责任不能外包。
3条原则，先守住权限
如果你现在也在尝试把 AI 用进业务里，我觉得可以先记住三个原则。
第一，把任务分层。
内容生成、资料整理、竞品拆解、标题优化，这些属于低风险任务，可以多交给 AI。
预算调整、价格变更、客户退款、账号权限、数据删除，这些属于高风险任务，不能让 AI 直接执行。
第二，把权限收窄。
不要因为图方便，就给一个工具全局权限。
它只需要看数据，就不要给它改数据的权限。
它只需要生成建议，就不要给它执行付款、删除、发布、下架的权限。
第三，把判断留给人。
AI 给你的每一个建议，都要问一句：
它的依据是什么？
它漏掉了什么？
如果错了，最坏结果是什么？
你会发现，这三个问题一问，很多看起来很自动化的方案，马上就会露出风险。
真正会用 AI 的人，不是把自己变成甩手掌柜。
而是把自己从重复劳动里解放出来，然后去做更难、更值钱的判断。
这也是我现在做 AI 自动化最想坚持的方向。
不是为了炫技。
不是为了显得自己很前沿。
而是要让 AI 真的服务业务，服务现金流，服务真实的问题解决。
如果 AI 只是让我们更快地犯错，那它不是杠杆，是放大器。
如果 AI 能让我们更快地看清问题，那它才是工具。
AI不是老板，是员工
这次被曝出来的 AI 删库事件，责任到底怎么划分，还要等更多信息。
但它已经提醒了我们一件事：
AI 时代，最稀缺的不是会不会用工具，而是你还会不会判断。
真正的 AI 自运营，不是把人从业务里拿掉。
而是让人从低价值动作里抽身，回到更高价值的位置。
去看方向，定边界，控风险，做选择。
AI 不是老板。
AI 是员工。
如果你连员工能碰什么、不能碰什么都没想清楚，那不是智能化管理，那是把生意交给运气。
所以，别急着追求全自动。
先问自己一句：
如果这个 AI 明天真的替你执行了一个错误动作，你有没有能力把损失挡在业务之外？
如果没有，那就先别把判断权交出去。
因为创业最贵的，从来不是工具费。
是一次不可逆的错误决策。
📝 本文约1900字，预计朗读8分钟