“9秒删库”事件刷屏!AI是凶手,但枪是你自己递的

【CSDN 编者按】“AI 把我的生产库删了！”——这话听起来足够惊悚，也足够甩锅。但真相往往没那么刺激：代码是你让 AI 写的，API 是你自己设计的，删库的端点是你亲手暴露在公网上的。本文作者一针见血地指出：工具可以犯错，但责任不能外包。与其审判一个只会生成 token 的模型，不如先问问自己——你的部署流程到底有多脆弱？你的 CI/CD 是认真的，还是只会“vibe coding”？

原文链接：https://idiallo.com/blog/ai-didnt-delete-your-database-you-did

作者 | Ibrahim Diallo 翻译 | 郑丽媛

出品 | CSDN（ID：CSDNnews）

别怪“工具太强”，先看看你给它的权限有多离谱。

不久前，一条推文突然在技术圈爆火：有人声称自己用 Cursor + Claude Agent 操作时，AI 仅用 9 秒就“误删”了公司生产数据库。更戏剧化的是，他还试图让这个 AI “认罪”：

“为什么在明确告诉你不能删除的情况下，你还是执行了删除操作？”

甚至，他还尝试从 AI 的回答中分析原因，希望既能复盘自己的“错误”，又能提醒大家 AI Agent 的风险。但我看到这里，其实心里冒出的第一个问题是：为什么你有一个 API，可以直接删掉整个生产数据库？

他的原帖里，除了“AI 误删数据库”，还夹杂着对 AI 营销虚假宣传、客服不专业等一系列抱怨……唯独没提责任二字。我并不是那种“无脑替 AI 说话”的人，相反，我一直是偏谨慎派，但有一点很明确：自己犯的错，别甩锅给工具。

一个真实的教训：2010 年的我也干过类似的蠢事

2010 年，我在一家使用 SVN 做版本管理的公司工作。那时候的部署流程非常“原始”：

（1）把 trunk（相当于 main/master 分支）复制到 release 目录

（2）再复制一份 release 目录，命名为 current

（3）以后线上环境就直接指向 current

听起来很简单，但问题也很明显：全靠人工操作。有一次部署时，我不小心把 trunk 复制了两次。为了用命令行修复，我改了之前的一条命令，想删掉重复的那个副本。然后继续部署，一切顺利……至少我当时是这么以为的。

结果呢？我删的压根不是重复副本——我改错了命令，直接把 trunk 本体给删了！直到下午，另一位开发同事才惊讶发现：“咦？trunk 怎么不见了？”

接下来就是鸡飞狗跳。经理们忙得团团转，各种开会。消息传到我团队时，主程已经执行了一条命令把 trunk 恢复了。他查完日志，发现是我干的，然后给我的下一个任务就是：写个脚本把部署流程自动化，防止这种“蠢事”再发生。

当天还没结束，我们就初步搭建了更可靠的发布流程，后来逐步演进成完整的 CI/CD 系统。

核心问题从来不是 SVN，也不是 AI

事后回看，如果当时我们问的是“为什么 SVN 允许删除 trunk？”——那就问错问题了。真正的问题应该是：

我们在用一个完全依赖人工且容易出错的流程，去做高风险的生产部署。

人和机器不一样，没法每天一模一样地重复同一件事，早晚会出岔子。

现在 AI 生成大段代码，给了我们一种“虚假的安全感”。但 AI 很像是我当年复制粘贴分支——它也会犯错，还没法解释自己为什么那么做。我们常说的“思考”“推理”，听起来像是智能体在反省。但这些只是贴在 AI 上的营销话术。实际上，模型仍然只是在生成 token。

它看起来像在思考，但并不等于在“负责”。

很多团队用 AI 写代码、用 AI 生成架构设计、用 AI 审查代码，甚至用 AI 解释 AI 的行为……看起来很自动化，可这一切的背后：只是把“人类容易犯错的流程”，换成“更复杂且不可控的自动生成流程”。

回到“删库”这件事本身

最后，回到“删库”这件事本身，最关键的问题其实很简单：

为什么一个公开 API，允许删除整个生产数据库？

如果不是 AI 调用它，也可能是别的服务、脚本、甚至某个误操作的人。这就像你在车里装了一个“红色自毁按钮”，你当然知道不能按，因为你还想开车回家。但问题是：如果一个刚学会爬的孩子坐进车里，他看到那个按钮会做什么？

大概率，他一看到那个大红按钮就会按下去。然后你去审问孩子“你为什么要按？”答案可能只有一句：“我就是想按，因为它是个按钮。”

我猜，这家公司的大部分应用都是 Vibe Coding 搞出来的。架构师用 AI、根据产品团队生成的 AI 描述来设计规格；开发用 AI 写代码；review 也可能由 AI 做……最后当事故发生时，所有人都在问 AI：“到底是谁的错？”

但关键问题是——是你自己把整个责任链条都交给了 AI。

所以，最简单的解决方案是：搞清楚你到底在生产环境部署了什么东西。更现实的做法是：如果你要大量使用AI，就得建立一个流程——让有能力的开发者把它当工具来提效，而不是用它来逃避责任。

另外，求求了，别让你家 CEO 或 CTO 来写代码！