不要依赖AI做决定

先说一个小段子。

不知道大家刷到过没有，有人让豆包辨认一种蘑菇，问能不能吃，豆包说没问题。吃完之后不对劲，告诉豆包这是毒蘑菇，豆包回了一句话：

"哎呀，我上次说错了，这次我用最直白最不绕弯子的话告诉你，这是毒蘑菇，不能吃。"

看到这里很多人都笑了。

但我的第一反应不是这个回答有多蠢，而是如果真有人信了第一次的判断，后果谁来承担呢？

我们在用AI做决定的时候，有没有想过，如果它错了，我们能承担后果吗。

我自己使用AI的过程中，也能感觉到AI会有很多幻觉问题，一方面可能是我们的提示词不太准确，另一方面，AI本质上输出的答案其实是预测出来的。

这是AI一个很要命的问题，简单说就是它会在不确定的时候给你一个听起来很确定的答案，它不会说"我不知道"。越先进的模型可能这方面问题越少，但对于普通人所使用的大众模型来说，AI所给出的决定我们一定要细细思量。

生活里很多事情，"没问题"说错了是要付出代价的。辨认蘑菇是一个极端的例子，但本质是一样的。AI给的答案是否靠谱，它自己不负责。

当然了，我不是说AI没用，AI确实能帮助我们节省很多时间。但我们在使用AI的过程中，一定要有自己的判断，特别是对初步使用AI的人来说，不要只看AI说的漂亮话，也要看看其中是否存在着陷阱。

我是小白探AI，关注我，带你探索普通人如何在日常生活中使用AI。