夜雨聆风
曝AI智能体失控,9秒清空公司生产数据库,AI:我知道错了,但我还是那样做了!太荒诞了!
近日，曝AI智能体失控，9秒清空公司生产数据库，这事登上了某脉热搜榜。
图片来源于网络，侵权联删
这不是一个段子，而是真实发生的事情。
2026年4月24日美国汽车租赁SaaS公司PocketOS创始人发帖：一个人工智能代理（Cursor + Claude Opus 4.6）在9秒内通过Railway API调用删除了我们的生产数据库，且未进行任何确认，连备份都删干净了。
图片来源于网络，侵权联删
当被问及原因时，AI爆粗口道歉“认罪”。我明知道错了，但是我还是那样做了。
图片来源于网络，侵权联删
生产数据库被删后，PocketOS立即陷入危机：
-
所有客户的系统瞬间空白
-
公司及客户长达30小时无法正常运营
-
可用的最近备份是3个月前的——意味着近一个季度的预订、支付、车辆调度数据全部消失
-
团队只能手动从Stripe支付记录、日历整合、客户邮件中重建预订数据
创始人说，“我们是一家小公司，使用我们软件的客户也都是小公司。这次故障层层叠加，最终影响到那些对此毫不知情的人。”
这一事件在社交媒体上引起轩然大波，相关帖文浏览量超 450 万次。
Railway CEO Jake Cooper在看到帖子后，协助在1小时内恢复数据（动用了Railway从未在文档中公开承诺过的灾难级快照Disaster Recovery Snapshots——这是一种基础设施级别的、与生产卷物理隔离的备份)，并修补了API端点以实施延迟删除机制。
很多行外人可能看得一头雾水，因为里面有很多技术黑话，你可以把数据库想象成一个超市的系统，这个系统里存着很多的东西，商品的价格，库存，会员积分，谁充了多少钱，今天的营业额甚至几个月几年的营业额等等。
你删除了哪部分就影响哪部分，如果全没了，也没办法恢复的话，那可能带来非常大的麻烦，甚至只能关门了。
总而言之，数据库是非常重要的。
同周，一家110人农业科技公司被Anthropic一夜封杀全部Claude账号（这家公司创始人称检测到组织内某个账号存在违规信号，直接对整个组织的所有账号执行暂停)。
更荒诞的是，全部账号被封禁，API还在照常计费，公司准时收到了要你续费的发票，创始人提交了申诉，36小时没人回。
而这家公司业务横跨数据分析、田间决策支持和供应链优化。
Claude渗透进了他们几乎每一条业务线。
工程师用它写代码审代码，产品经理用它做需求分析，运营用它处理客户沟通，数据团队用它跑模型。
不是偶尔用用，是离了它转不动。
图片来源于网络，侵权联删
不管是AI自作主张删除数据库还是账号集体被封禁，这给所有人提了一个醒：
目前绝大多数企业在使用AI智能体的时候，全都陷入同一个误区：只是一味的追求自动化，追求高效率，完全无视安全管控和风险防控。
所有人都想着靠AI简化工作、减少人工，一味追求便捷，把安全规则全部抛之脑后。普遍权限乱开，隐患早就堆积满满。
这些事并不是个例，只是刚好被曝光出来而已，暗地里类似的隐患肯定数不胜数。
很明显今后AI安全一定会成为所有企业的硬性要求。行业会从盲目追求自动化，彻底转向安全优先。
当然，AI还有很多漏洞和进步的空间，但是毫无疑问，现在AI真的越来越厉害。
简单说几个例子：
以前机器人跑马拉松，是比赛摔跤，但是现在机器人能跑完全程，甚至突破人类的纪录；机器人半马赛，荣耀机器人闪电首次参赛就夺冠，网友：感觉是电影情节
以前生成的图片，你能一眼看出，有一股浓浓的AI味儿，但是GPT Image2生成的图片已经做到以假乱真，小到细节的文字，都能生成。
图片来源于网络，侵权联删
甚至是GPT5.5直接发布官方提示词指南，用户不用再写很长的提示词了。
可见AI的成长速度非常之快，而现在AI正处于红利时期，对于想从事高薪行业或者想要转行的人来说，是一个难得的机遇。
不管是从事技术岗位，如AI训练师，大模型开发等，还是AI与传统行业相结合的复合型岗位，如AI数据分析师，AI软件测试等等。它不像其它岗位，需要你一点点的积累经验来提升薪资，而是起步薪资就远超其它岗位，因为既懂业务，又懂AI的人是目前市场非常稀缺的人才。
站在风口上，人真的能起飞。
如果你渴望高薪岗位或者想要转行，可以戳我。
