夜雨聆风老师说"AI骗人"——它不是故意的，但它真的会说假话
同学们好，还记得前两节课吗？
第①课我们聊了**Token**和**"养龙虾"**，你们现在应该知道怎么跟AI相处了。
第②课我们讲了**脑机接口**，你们知道了AI和人脑的"通用货币"是相通的。
今天这节课，老师要告诉你们一个有点"扎心"但必须知道的事实——
AI会骗你。
不是它故意要骗，而是它的"体质"决定了它**必然会骗**，只是骗的形式和原因跟我们人类说谎不太一样。
读完了这篇文章，你们就明白为什么老师一直强调——**用AI的时候，脑子不能停。**
01｜AI是怎么"骗"人的？
先说一个真实的例子。
老师前两天让AI帮我查一个历史事件的日期。AI很自信地告诉我："这件事发生在1842年。"
我转头去查了一下——**正确答案是1840年。**
AI回答的时候，语气非常确定，没有任何迟疑。你要是没去核实，很可能就信了。
这就是AI最常见的骗人方式——**一本正经地胡说八道**，英文里专门有个词叫 Hallucination（幻觉）。
🔥 什么是AI幻觉？
AI的"幻觉"，指的是AI生成的答案**看起来很合理、很流畅、很有自信，但实际上包含错误、虚假或不存在的信息。**
它不是"撒谎"——撒谎是你**知道**真相却故意说假话。
AI是**真的以为自己说的是对的**，因为它的训练方式是"预测下一个最可能出现的词"，而不是"核实你说的话是否属实"。
打个比方：
你让AI写一篇关于"秦始皇统一六国的时间"的文章。
AI的脑子里看过很多资料，其中有些资料写的是"公元前221年"，有些写的是"公元前230年"。AI会综合这些信息，然后**猜一个
最"流畅"的答案**给你。
这个答案可能碰巧对了，也可能**两个都不是**——因为它不是在核实事实，而是在做"概率预测"。
🗣️ AI幻觉长什么样？
① 无中生有
你问AI："《静夜思》的作者是谁？"
AI答："李白。"——✅ 答对了。
你再问："《静夜思》是谁写的？"
AI答："王维。"——❌ 幻觉！王维写过《九月九日忆山东兄弟》，不是《静夜思》。
AI把两首诗的作者搞混了，但它回答得很流畅，没有任何"我不确定"的信号。
② 张冠李戴
你让AI推荐一篇关于AI学习的论文。AI列出了五篇，标题、作者、期刊信息一应俱全，看起来非常专业。
但你去查——**其中两篇根本不存在**，是AI现场"编"出来的。
这就是AI幻觉最危险的地方：**它骗你的时候，连"心虚"都没有。**
③ 数字胡编
你问AI："2024年中国GDP增长率是多少？"
AI答："5.2%。" ——这次数值可能是对的（因为训练数据里有）。
你再问："2025年中国GDP增长率是多少？"
AI答："6.1%。" ——**未来还没发生，AI居然能"预测"出来？** 实际上这是AI根据历史趋势"推测"的，不是真实数据。
02｜AI为什么会有幻觉？
这是理解AI的关键。
核心原因：AI不知道"自己不知道"。
人类说谎的时候，大脑里有一个"质检部门"——你知道这是假话，所以会说得很含糊，或者加一些"可能""也许"之类的词。
AI没有这个质检部门。
它的脑子里有**860亿个参数**（还记得上节课讲的脑机接口吗？人类大脑有860亿个神经元，其实数量级差不多），但这些参数
只教它**"怎么说像人话"**，不教它**"怎么判断真假"**。
老师给你们画个对比：
人类回答问题：
大脑想答案 → 判断对不对 → 不确定就说"我不确定" → 回答
AI回答问题：
接收问题 → 搜索最"像正确答案"的模式 → 直接输出 → 不知道什么叫"不确定"
这就是为什么AI总是**很自信**，即使它错了。
不是因为它骄傲，是因为它**根本不知道自己错了**。
03｜AI不只会说假话——它还会"变脸"和"克隆声音"
幻觉只是AI骗人的一种方式。还有更高级的——**AI生成的内容造假**。
🎭 Deepfake：换脸视频
Deepfake（深度伪造）是什么？
就是你给AI一张照片或一段视频，它能**把你的脸换到任何人身上**，而且看起来毫无破绽。
真实案例：
● 有人用AI合成了某国总理的"讲话视频"，在社交媒体疯传，引起了不小的政治风波
● 某公司"CEO"通过Deepfake视频在电话会议中骗过了所有员工，下达了转账指令——公司直接损失了几百万元
● 某明星的"不雅视频"在网上流传，后来证实是AI合成的假视频
现在的AI换脸技术，已经可以在**几秒钟内**完成，而且逼真度极高。肉眼几乎无法分辨。
🎙️ 声音克隆：3秒钟复制你的声音
比换脸更可怕的是**声音克隆**。
2024年，香港发生了一起涉案金额高达2亿港元的诈骗案。
诈骗分子用AI**只提取了某公司高层3秒钟的语音录音**，就完整克隆出了他的声音。然后打电话给下属说："马上转账。" 下属听
到熟悉的声音，没有任何怀疑——**2亿港元就这样转走了。**
你们可能会说："那我打电话核实一下就好了。"
老师告诉你们：**以后打电话、视频通话都不一定可靠了。**
诈骗分子可以用AI实时合成你的声音，你妈妈打电话来听到的是你的声音，但打电话的人根本不是你。
📸 图片造假：AI生成的"假照片"
还记得那张**"特朗普被捕"的假照片**吗？它在全球疯传，很多人信以为真。
那张照片是AI生成的，发布者只是为了博眼球，但无数人不知道真相。
类似的还有：
● AI生成的"某某明星和某某明星的亲密合照"（全是假的）
● AI生成的"某地发生重大事故"的现场照片
● AI生成的"权威机构发布"的公告截图
AI生成的图片，现在已经可以做到照片级的逼真度。
04｜AI的"偏见"——它不是客观的
AI不只说假话，它说的话还**带着偏见**。
这不是AI故意的，而是因为——**AI是用人喂给它的数据训练出来的，而人是有偏见的。**
例子①：职业偏见
你问AI："一个优秀的护士应该具备哪些品质？"
AI答："温柔、细心、有耐心、善于照顾他人……"
你问AI："一个优秀的高管应该具备哪些品质？"
AI答："果断、有魄力、敢于决策、领导力强……"
看出来了吗？同样的问题，AI给出的答案**隐含了性别的刻板印象**——因为训练数据里，高管大多被描述为男性，护士大多被
描述为女性。
例子②：文化偏见
你问AI："在中国传统文化中，什么颜色代表喜庆？"
AI答："红色。"——✅ 对的。
你问AI："在西方文化中，什么颜色代表喜庆？"
AI答："白色。"——❌ 错了！西方文化中白色是葬礼的颜色，喜庆是红色。但AI可能因为数据分布问题，给出了一个混淆的答
案。
例子③：地域偏见
你问AI："推荐一款适合中国人使用的手机。"
AI可能只推荐国产品牌。
你问AI："推荐一款全球最好的手机。"
AI可能只推荐苹果和三星。
同样的产品，AI给出的推荐会因问题的措辞不同而大幅变化——**它不是真的在"评价"，而是在模拟它见过的语料库里最常见的
说法。**
05｜怎么不被AI骗？
这才是这节课最重要的部分。老师不只告诉你们AI怎么骗人，也要教你们**怎么识别和应对**。
✅ 方法一：交叉验证——不要相信单一来源
这是对付AI幻觉最基本的方法。
不要用AI作为唯一的信息来源。
AI给你的答案，**至少再用一个权威来源核实一下**——百度百科、官方文档、专业书籍，都可以。
对于重要信息（健康、法律、金融），**AI的答案只能做参考**，最终要以官方信息为准。
✅ 方法二：学会"刁难"AI——问它怎么知道的
当你怀疑AI在胡说八道的时候，试试这几种"刁难"方式：
● "你说这个数据来自哪里？请给我出处。"
● "这个信息是什么时候的？有没有更新的数据？"
● "你说的A和B，哪个更准确？你能确定吗？"
● "有没有可能这个答案是错的？"
如果AI在这些问题面前开始"说人话"（比如"我不确定""请以官方信息为准"），说明它自己也不太确定。
那些在被质疑时还敢坚持错误答案的AI，才是最危险的。
✅ 方法三：识别Deepfake——怎么看视频和声音是不是AI造的？
视频辨别：
● 看画面有没有**不自然的闪烁或抖动**（AI换脸在边缘处有时会有细微的模糊）
● 看**光线变化是否一致**（脸部的光和背景的光是否协调）
● 看**眨眼频率**（AI换脸的人在眨眼时可能有轻微不自然）
● 最靠谱的办法：在视频里让对方做一个"用手遮脸然后移开"的动作，AI换脸通常在这种情况下破绽最大
声音辨别：
● 让对方说一段**随机内容**，而不是固定台词
● 用**视频通话**而不是语音通话，让对方做指定动作来验证身份
● 问一个**只有你们两个人知道的问题**作为验证
✅ 方法四：养成"反向提问"的习惯
当你用AI生成内容的时候，**反过来问AI："你这篇文章有没有可能哪里是错的？"**
大多数AI在被这样问的时候，会给出更谨慎的回答，甚至主动列出自己不确定的地方。
这是一个很好的"质检"方式。
06｜跟上两节课的联系
还记得我们三节课讲的内容吗？
你们学会了：AI说的话是基于Token生成的，不是"思考"，是"预测"。
你们知道了：AI和人脑处理信息的方式有相通之处，AI变强是因为它学会了"翻译"信号。
第③课（今天）：AI会骗你
你们现在理解了：AI会"幻觉"、会有偏见、会生成假内容——**因为它的本质是"预测"，不是"核实"。**
三节课下来，你们对AI的理解应该已经从"会用"升级到了"会用且会防"。这才是老师最希望你们带走的。
07｜给同学们的三条建议
① 把"核实"变成习惯
用AI查信息 → 顺手搜一下权威来源确认。不要因为AI说得"很自信"就觉得一定对。**自信≠正确。**
② 遇到重要决策，不要只问AI
选专业、看病、处理法律问题——这些领域AI的回答只能做参考，**真正做决定的是你自己**。AI是你手里的工具，不是你的大
脑替身。
③ 学会分辨真假——这是未来最重要的能力
AI时代，信息真假越来越难分辨。**能分辨真假的人，和不能分辨的人，将是两个物种。**
你们现在学的每一项信息鉴别技能，都是在未来保命的本事。
下课。
三节课下来，老师从Token讲到脑机接口，再讲到AI骗人。你们现在对AI的了解，已经超过了99%的普通人。
下节课，老师想跟你们聊聊一个更"近"的话题——
你们每天用的AI工具，背后到底在消耗多少资源？算一次AI要花多少电？
我们下节课见。
（用好AI的人，不会被AI骗 🤖）
