为什么说AI正在骗你,而你却毫不知情?

现在的AI发展的太快了，以致于我们很多人都习惯了有事就想问AI。

你看看，手机屏幕上AI与我们人的对话那么流畅自然，生成的文章也是逻辑清晰，马路上到处跑的无人驾驶送货汽车行驶平稳，连AI医疗系统都宣称准确率超过人类医生了。

表面上看，这AI一切都那么“智能”，那么“可靠”。很多人也都这样认为。

但真相却是很打脸：

这个被我们称为“智能”的东西，可能根本不像我们以为的那样在认真思考。它只是在模仿、在猜测，在用一个极其复杂的统计模型在填补空白。而它蕞擅长做的事情，恰恰就是让你相信它“懂了”。

这么说，你可能不理解。其实，关键就在于我们需要看清AI到底在做什么。

当我们向AI大语言模型提问的时候，它其实并不是在“思考”答案，而是在做一件本质上类似于“填空”的事情。

它在背后，阅读了海量的文本，学会了词语之间出现的概率规律，然后基于这些规律，预测下一个蕞可能出现的词是什么。这个过程被称为自回归生成。

它不需要理解问题的含义，也不需要知道世界的运行规则，只需要知道在类似的语境中，哪些词更常出现在一起就ok。

所以说，它能写出流畅的文章，能回答复杂的问题，甚至能写出代码，但这并不意味着它“理解”了任何内容。

正如一位数据科学家指出的：机器学习是模式匹配，不是理解。

说起来，这种"模式匹配"的能力，在特定场景下确实很惊人。

但它的聪明是有限的，更是脆弱的。一旦遇到训练数据中没有出现过的组合，AI就会彻底“懵掉”。

有一个著名的实验，一个在数据集上训练得非常好的图像识别模型，能够准确识别各种动物，但当研究人员把一头牛放到海滩上时，模型却完全认不出这是一头牛。为什么会这样呢？

因为在它的训练数据中，牛几乎总是出现在草地上，而不是沙滩上！

这实际上暴露了AI的根本缺陷，就是它没有“世界模型”，它也不知道牛是什么，它只知道“牛”这个标签通常是和哪些像素模式一起出现。

更令人不安的是，AI的“聪明”可以被轻易操控的。

深度学习模型对对抗性扰动极其敏感，只需做一点对人眼完全不可见的微小改动，就能让一个模型把校车识别为鸵鸟，把乌龟的3D打印模型识别为步枪。

这意味着，AI的所谓“判断”是建立在极其脆弱的基础上的。它不是在“看”，而是在“匹配”；它不是在“理解”，而是在“猜测”。

而当我们把这种脆弱的技术放进企业、放进社会系统时，问题会变得更加隐蔽和危险。

大量企业的AI项目，遵循着一个可预测的失败路径：

第一阶段，因为害怕错过而盲目上马，先有AI方案再找问题去套；

第二阶段，方法学上的错误被忽视，模型通过“作弊”取得了看似漂亮的结果；

第三阶段，基于有缺陷的原型盲目扩大规模；

第四阶段，明知产品不行仍伪造结果；

第五阶段，项目被悄悄搁置，无人再提起。

一位数据科学家曾分享自己被一家公司聘为“间谍”的经历：

公司成立了一个“推广AI使用”的团队，但团队的KPI是“推广AI”本身，而不是解决任何实际业务问题。

这种"拿着锤子找钉子"的思维，在AI热潮中可以说是无处不在。

而更深层的问题在于，AI系统的表现高度依赖于它所学的数据。

如果训练数据存在偏差，AI就会继承甚至放大这些偏差。GooglePhotos曾将黑人用户标记为"大猩猩"，亚马逊的招聘AI曾系统性歧视女性求职者，这些都不是偶然的bug，而是数据中偏见的必然产物。AI不知道是否“公平”，它只会忠实地反映它所学到的一切。

那么，为什么我们如此容易被AI“骗”到？

因为AI是一个“好的伪装者”。

它能生成流畅的文本，能给出看似合理的答案，能在演示中表现得无可挑剔。

但有一点，演示不等于现实。

现实中有大量GPT“翻车”的案例：

当被问到“谁是英国总统”时，它会一本正经地给出一个名字；当被问到“如果把鸡蛋壳剥掉，鸡蛋会漏水吗”时，它也会给出看似认真的回答。

还是如前面所说，它不是在“回答”，而是在“续写”，它根本不知道英国没有总统，也不知道剥壳的鸡蛋不会漏水，它只是根据训练数据中类似问题的回答模式，生成了一个看起来像答案的答案，仅此而已。

但，这种“假装理解”的能力，正是AI蕞危险的地方。

它让我们误以为机器已经“接近人类智能”，误以为AGI（通用人工智能）已经指日可待了。

但事实上，当前的AI与真正的智能之间，隔着一条巨大的鸿沟。它缺乏常识，缺乏因果推理能力，也缺乏对世界的基本理解。它虽然可以在围棋上击败人类，却认不出海滩上的牛；它虽然可以写出优美的诗歌，却不知道鸡蛋剥壳后不会漏水。

以上这一切的分析，都来自一本名叫《天才到智障》书。

这本书可以说对AI热潮，进行了一次系统性的“祛魅"。

当然，书中没有否定AI的价值，但书中强调一点，那就是：我们需要知道AI真正能做什么、不能做什么，而不是被营销话术和媒体炒作牵着走。

从ChatGPT的幻觉问题到自动驾驶的安全隐患，从AI取代就业的焦虑到AI医疗诊断的可靠性，从短视频推荐算法的信息茧房到AI换脸诈骗的威胁，几乎每一个热点话题，几乎都能在这本书中找到分析框架。

所以说，这本书实际是提醒我们：在AI被神化的时代，保持怀疑和批判，或许是蕞珍贵的能力。因为如果AI正在骗你，而你却毫不知情，那你是不是该睁开眼睛，看清它到底是谁？