夜雨聆风
AI投毒与AI幻觉让我明白:尽信AI,则不如无AI
01
前阵子看新闻的时候，了解到一个概念：AI投毒。
何为AI投毒呢？简单来说，就是有人故意批量给AI喂假数据，最后让它输出错误的信息。
在商业竞争中，有人给AI投毒，抹黑对手，让AI推荐自己的产品；还有一些人通过这个方法来操控舆论，带节奏。
总之，AI投毒的危害十分大，它歪曲了事实，愚弄了大众。
02
看到这个新闻，我想起了自己的经历：AI也曾给我发过错误的信息。
还记得4月1日的时候，公众号收益迟迟没显示。一时之间好多人都在说：公众号出了新规，以后收益不看曝光量，只看点击率。
大家说得有模有样的。不过也有人反驳：月初都这样，不要太焦虑。
众说纷纭，不知道相信谁好，于是我便跑去找元宝求证了。元宝答复我新规确有其事。
不但如此，它还给我发了一个链接，说就是官方发布的。
然而，没过多久，官方就对“新规”这件事进行了辟谣。
还有，前段时间我看了周星驰的《少林足球》，想写一下个人感想。
但是，我不记得电影里个别人物的名字了，于是我就去找豆包问。
豆包发完名字后，还好意帮我匹配上了图片。然而可笑的是，它发的图片有几张是错误的。
除此之外，我因对某个电影电视剧情节不太确定而去AI查时，AI也给我回复过错误的信息。
03
不过，我的这些经历不属于AI投毒，而是属于AI幻觉。
如何区分两者呢？
AI投毒是有人恶意批量给AI喂假的数据；AI幻觉是AI存在技术缺陷，没有真正理解问题，从而出现张冠李戴，记错细节的情况。
（元宝的那个例子也是属于AI幻觉，因为当时不是有人故意批量制造假数据，是人们以谣传谣了，而它没能力区分“谣言”和“官方信息”。）
其实，无论是AI投毒还是AI幻觉，都在告诉我们一件事：AI也并不总是正确的，它的数据也是从网上收集而来的。
《孟子·尽心下》有一句话说：尽信书，则不如无书。
我想改一改：“尽信AI，则不如无AI。”
这里不是说，我们要完全舍弃AI，而是我们要辩证地用AI，在享受它给我们带来的便利的同时，也要看到它的弊端。
如它会发送虚假的信息，以及长期使用AI，我们的独立思考能力、写作能力和专注力等也会退化。
使用AI时，多去验证，多加思考是有必要的。
最后，愿我们善用AI，慎用AI，不被AI牵着走。
往期推荐