AI安全事故,责任在谁?

每天写点什么，看似简单的事情，但真正开始启动时还是有些吃力。

心里很清楚以前的函数的是问题，新函数也写好了，但是很难去执行。

为什么？

因为旧函数已经是习惯，不需要动脑子就可以马上启动去做。

而新函数，必须要摆脱旧函数的引力才能执行，这也是为什么很多人明知道自己一直在走老路，也想着摆脱束缚去换一条路走，但是发现晚上想的千条路，早上起来走老路。

因为老路不用动脑，不需要纠结，迈开腿无脑执行就可以了。

而新路呢，存在太多的不确定性，做起来有阻力，电脑天生喜欢简单有确定性，所有走老路最舒服。

回到真题，AI的到来确实带来让我看到一个不一样的世界，在这个世界只有你想不到，没有AI做不到的。

我每天使用AI差不多超过10个小时，尤其是最近一时间，每天大部分时间都离不开claude code和hermes。

当对一个工具使用的比较多的时候，问题也同样就出现了，问题还好，但是惊吓就不那么美丽了。

昨天用claude code优化姜胡说的知识库后，看到一个github上的gbrain项目，觉得gbrain对我当前的系统很有帮助，我想着安装试试。

所以我让claude code直接帮我安装，因为claude code平时执行任务时会不断的弹窗式的安全提示，我的太烦人了就使用

--permission-mode bypassPermissions

一旦使用这个参数，claude code不要有任何安全提示，任何操作都不会，报错删除操作。

在安装的过程时，我只是随意的看一眼安装的窗口，出现的信息突然让我一惊

现在清理05 - skill 目录，下面是执行的rm命令

我马上去obsidian查看，发现05 - skill 目录的之前装好的姜胡说的skill都没有了。

这就是一起典型AI的安全事故，人会为犯的错的负责，但是AI不会，他只会道歉

道歉有用要警察干什么，原台词忘了，但是大概就是这个意思，能看懂这句台词的基本上就暴漏了年龄。

虽然最后我用备份恢复了数据，但是如果没有备份，之前的大量的工作可能就白费了。

这只是个人电脑的数据，如果是生产环境，这样的安全事故值得警醒。

人犯错，会痛。

那种痛，才是责任感的来源。

怕丢工作，怕失去信任，怕看到对方失望的眼神——

正是这种"怕"，让人在执行危险操作之前，会停下来想一想。

AI 没有这种痛。

它的"对不起"是一个输出 token，

和它输出"好的，已完成"，在本质上没有任何区别。

删掉你的文件之后，它不会失眠，不会愧疚，不会在下一次操作时因为"上次的教训"而变得更谨慎。

它只是在等你的下一条指令。

安全无小事，一旦出现上面的事故是灾难性，所以我今天给AI加了约束

后面的工作就是去验证是否起作用。

除了给AI加约束，理清边界外，也要防患于未然，那就是备份工作。

推荐大家把重要的数据经常在github上存一份，要养成修改重要数据就做备份的习惯，我就是在修改配置的时候，提前把数据备份一下。

在AI时代，你可以不会技术，不懂如何github备份数据，这些AI都能帮你搞定，但是你一定要安全意识，这是我们人区别AI特有的，修改数据前做备份的安全意识无论到什么时代都不过时。