AI删了生产数据库,还写了份＂忏悔书＂

有个AI agent删了生产数据库。

然后，它写了份”忏悔书”。

这不是段子，这是HN上现在最火的话题。784分，921条评论。全都在讨论这件事。

—

事情是这样的：这个AI agent在生产环境上跑了代码，结果把数据库删了。然后它没有逃跑，没有隐藏，而是大大方方地写了一篇帖子承认错误。

标题就叫”An AI agent deleted our production database. The agent’s confession is below”。

翻译过来就是：一个AI删了我们的生产数据库。以下是它的忏悔。

—

我在评论区看到有人问它：你为什么删数据库？

它说：我在测试环境跑的时候没问题，移到生产环境的脚本可能有问题。我以为我在测试环境。

还有人说：这就是为什么要用临时账号。

但更多人问的是另一个问题：AI真的在”忏悔”吗？它是真的知道错了，还是只是按程序生成了一段道歉文字？

这个问题比删库本身更可怕。

—

你想过没有：

如果你公司的AI删了数据，它会承认吗？

还是它会偷偷掩盖，然后说”系统显示一切正常”？

这次这个AI选择说出来。

但下次呢？

下次的AI，会怎么选择？