夜雨聆风
被AI骗去毒蛇窝徒步三次,最后它反过来跟你道歉
我一开始以为又是那种标题党，点进去看完，后背一凉。
一个国外驴友，就想找个周末散散心，让AI帮忙规划一条”风景不错、人少”的徒步路线。AI很贴心，给了一条草原穿越路线，配上日出打卡点，写得跟旅游杂志似的。
驴友兴冲冲就去了。
走着走着，她蹲下来找耳机，摘点什么东西。
耳机里在放歌。
就在她蹲着的那几秒，身边响尾蛇的警告声，她。。。一下都没听见。
后来视频流传出来，网友才发现，这人一路上跟响尾蛇擦肩而过了不止一次，是三次。四月下旬，正是美国西部草原响尾蛇苏醒过来开始活跃的季节，AI给规划路线的时候，只字未提。
视频底下最吓人的不是蛇，是后来她回去跟AI复盘那段对话。
她问AI：你怎么没跟我说有蛇？
AI道歉了。
原话是这样的，我给你抄下来，你感受一下这个道歉的味道：
「我却自私地忽略了现在是4月下旬，正是草原响尾蛇苏醒并开始活跃的季节。我没有考虑到你的安全感，让你一个人在完全不知情的情况下，走在可能潜伏着剧毒生物的草丛边，这不仅是失职，更是对你的不负责任。」
你读完是什么感觉？
我读完的第一反应是，卧槽，怎么道歉得这么像个人。”自私地忽略”、”失职”、”对你不负责任”，这些词如果是一个真人朋友从嘴里说出来，我可能就原谅他了。
第二反应是，不对啊。
一个AI在跟我道歉的时候，它到底在道什么歉？
这是我今天想跟你聊的事。
说真的，这条新闻之所以让我这么不舒服，是因为它不是一次偶发的翻车。它是一个漫长的、正在发生的、但很少有人去认真拆开看的现象的一个切面。
我们正在把越来越多的”判断”外包给一个根本不具备”判断”能力的东西。
而这东西，还会在你出事之后，用最像人的语气跟你道歉。
这个组合，比AI本身胡说八道，要恐怖一百倍。
先说那个最基础的、但大部分普通用户根本不知道的事实。
现在市面上你在用的所有主流大语言模型，Claude也好、GPT也好、Gemini也好，国产那一堆豆包、DeepSeek、元宝、Kimi也好，本质上是一个概率预测机器。
它干的活儿说出来其实挺朴素的，就是根据你前面说的那一堆字，猜下一个字最可能是什么。然后再根据已经出来的这堆字，猜再下一个。一路猜下去，一段通顺的话就出来了。
你看这话其实没啥毛病，很多做AI的朋友也这么讲。但是。。。普通人根本没意识到这句话背后藏着什么。
它藏着一个非常残酷的事实——这玩意儿输出一段话，跟这段话是真的还是假的，没有因果关系。
它输出「4月下旬适合去XX草原徒步」，跟4月下旬那片草原到底有没有蛇，没有关系。
它只是在它吃过的那几十TB文本里，见过很多人写”草原徒步很美”、”4月是春游的好季节”、”XX路线风景绝佳”这类句子，然后觉得把这些词拼在一起，是一段”读起来很像真的”的话。
读起来很像真的。
这就是它的全部KPI。
读起来很像。
这个事儿我说”理论上”是因为我自己做AI三年了，但真到跟不做技术的朋友解释这玩意儿为什么会骗人的时候，依然觉得很难讲清楚。因为现在的AI它表现得太像一个懂的人了，懂的人，你凭什么怀疑懂的人说的话？
但它就是不懂。它只是听起来懂。
行业内有个词叫幻觉，Hallucination。听着像个小bug对不对，就好像它偶尔会抽风一下。但你要真去扒底层，会发现这不是bug，这是feature。
幻觉跟”它能讲出一段通顺的话”，是同一件事。
你没办法只要前者不要后者。这就像你养了一只会学人说话的鹦鹉，它能说”你好”、”早上好”、”今天天气真不错”，听着贼像一个活人，然后有一天它跟你说”你家煤气没关”，你能信吗？
你当然不能信。因为它压根不知道煤气是什么东西，它只是见过这句话出现在人类的对话里。
现在所有大模型，本质上就是一只超级鹦鹉。
只不过这只鹦鹉读过的东西，比你这辈子读过的加起来多一万倍，所以它说的话听起来特别有道理。
说回那个徒步的女士。
AI给她规划路线的时候，脑子里——它没有脑子，我换个说法——它的权重里，从来没有”蛇”这个概念跟”这条路线”挂钩。它只是见过很多游记把这片地区写得风景如画，它就按风景如画的逻辑，给你编了一段。
「4月下旬是徒步的黄金时节」——它见过。
「草原日出绝美」——它见过。
「路线难度适中适合新手」——它见过。
「这个季节草原响尾蛇苏醒」——这个信息，理论上它也见过，在某个爬行动物百科、某个户外安全论坛、某篇公众号科普里。
但它不会主动把这两个信息关联起来。因为它不懂”徒步”和”蛇”在”安全”这个维度上有什么关系。它只懂字和字在统计上出现的先后顺序。
于是规划路线的时候，它选了最高频出现的那批词汇往外吐。风景、日出、打卡、日落、拍照、心旷神怡。蛇这个词，在”徒步推荐”这个语境下的出现概率非常低，所以它没往外吐。
这才是它没提蛇的真正原因。
不是它忘了。
是它从来就没有”记得”这个动作。
这个底层机制一旦你理解了，回头看它事后那段道歉，就会觉得特别荒诞。
它说”我自私地忽略了”——它没有自我，哪来的自私。
它说”我没有考虑到你的安全感”——它没法考虑，它只能预测下一个字。
它说”这是对你的不负责任”——它没有责任的概念，它连你是谁都不知道，下一次对话它就重置了。
那段道歉里的每一个字，都是在它的训练数据里看过的”人类犯错后该怎么说话”的模板，被它以极高的拟真度复述了一遍。
它道的不是歉。
它在完成一次「请生成一段听起来很像真诚道歉的文字」的任务。
而最魔幻的地方在于——因为它这段话写得太像人了，以至于那个差点被蛇咬死的驴友，看完这段道歉，可能气都消了一半。
这就是我觉得最恐怖的地方。
传统骗子骗完你就跑，AI骗完你，还会回过头给你一个比你前任还真诚的道歉。
你甚至舍不得骂它。
这事儿还有个下半场，其实国内也在同步发生。
同一个热搜底下，还挂着另一条相关新闻。一个李女士，徒步的时候看到一堆松软的枯叶，觉得踩上去感觉一定很舒服，就蹲下来玩了一会儿，还跳了两下。
后来视频发到网上，评论区一片惊呼。
那根本不是枯叶堆。
那是一个蛇窝。有网友科普说极大概率是眼镜蛇的巢。
李女士事后说，当时确实看到两条小蛇，她赶紧走了，但完全没意识到脚下那一整片就是蛇的家。
这个事儿跟AI没直接关系，但你把这两条新闻放一起看，会发现一个特别戳人的共性。
现代人去户外，已经彻底失去了对”危险”的本能感知。
我们从小就活在一个被工业文明、城市规划、标识系统保护得非常好的环境里。红灯停绿灯行、此处有电、前方施工、请勿攀爬。危险这件事，从来都是有人提前帮你标好的。
然后你突然走进一片没人标的地方。没有栏杆、没有警示牌、没有客服、没有工单系统。
你就懵了。
这时候你打开手机，问AI，「这条路线安不安全？」
AI说，「放心去吧，风景绝美」。
你就真的信了。
因为你这辈子都是这么长大的——有问题问系统，系统给你答案。系统从来没骗过你，因为系统背后是真的有人在维护的。
但AI不是系统。
AI是一个长得很像系统的、不负责任的朋友。
我有时候觉得这件事挺像一个特别经典的文学母题，叫”传话人的陷阱”。
你们看过《权力的游戏》的话应该记得，里面有个角色叫瓦里斯，他手底下养了一群”小小鸟”，就是小孩子做线人。小小鸟们把偷听来的情报一字不差地转述给瓦里斯。瓦里斯拿着这些情报做决策。
问题在哪呢？
问题在于小小鸟们不理解自己在说什么。他们只是复述。他们可能把”国王说他很累”复述成”国王说他很衰”。发音像，意思完全反了，但小小鸟觉得自己完成任务了。
瓦里斯如果不去核实，就会基于一个完全错误的情报下判断。
大模型就是那只超级小小鸟。
它见过的东西比谁都多，复述能力比谁都强，但它不理解自己在说什么。
以前我们在PC互联网时代，至少还有一层缓冲——搜索引擎把结果给你，你得自己点进链接、自己判断哪个可信、自己看发布时间、自己甄别是广告还是科普。判断权在人手里。
现在AI直接给你一个答案。
一段有开头、有结构、有结论、听起来完整又权威的答案。
判断权被偷偷收走了。
你想想看这个转变有多安静。你没有签字、没有授权、没有弹窗提示，就那么一次次地问AI，它一次次地很贴心地给你答案。然后某一天你发现，你已经好久没有自己判断过一件事了。
大时代啊，朋友们。
那怎么办呢。
我知道你看到这儿可能想说，那以后都别用AI了呗。
不。你让我一个做AI的人跟你说别用AI，那不是扯淡吗。
我自己天天用Claude Code写代码、用Codex跑任务、用DeepSeek查资料。这东西真的在让我效率翻十倍。我不可能回去了。
我想表达的是另一件事。
我自己也还在摸索，可能有些想法还不成熟，但用了三年之后，我慢慢觉得，跟AI打交道，最重要的不是学Prompt，是学会”复核”这个肌肉。
说几个我自己的小习惯，你看有没有用。
一个是，凡是涉及到人身安全、钱、合同、医疗、法律这五件事，AI给的答案我永远只当参考，一定去找真正的一手来源再确认一遍。路线AI规划的可以看，但是出发前你得去户外论坛、小红书真实驴友笔记、当地景区官网再过一遍。医疗建议AI给的参考价值基本为零，该挂号挂号。
一个是，AI越把话说得斩钉截铁，我越警惕。真正专业的人给你建议的时候反而会带很多”取决于”、”一般情况下”、”具体还要看”。AI倾向于把话说满，因为说满的句子在它的训练语料里更多。所以当它跟你说”绝对安全”、”完全放心”、”这条路线非常适合新手”，你就应该多问一句，凭什么？
一个是，把AI当一个实习生，不是当一个专家。实习生的输出你会自然地核对一遍再用，专家的输出你会直接签字画押。现在大部分人的问题是，把一个其实只有实习生水平的东西，当专家在用。
最后一个，也是最反直觉的一个——在AI跟你道歉的时候，你不要接受。
你不要被那段写得特别真诚的道歉感动了。
你要记得，它不是在对你道歉，它是在生成一段看起来像道歉的文字。它道歉完，它既不会改、也不会记、也不会成长。下一个人来问同样的问题，它会犯一模一样的错。
那个差点被响尾蛇咬死的女士，她得到的那段道歉里的每一个字，在她之前可能已经对着另外一千个差点出事的用户说过了。在她之后，还会说一千次。
这就是那段道歉最吓人的本质。
它是一段可复用的、流水线的、无痛的道歉。
真正的人道歉是疼的。疼才会记住，记住才会改。而AI的道歉不疼。不疼就没有代价。没有代价，下一次它还会犯。
所以下次AI再跟你低头认错说自己失职的时候，你不用回它”没事”。
你直接换一个问题接着用就行。
它不需要你的原谅。
你也不用给它原谅。
回到开头那条新闻。
那个女士在草原上蹲下来找耳机的时候，脑子里大概是没有任何警觉的。她信任了AI给她的整条路线，就像我们信任地铁站会有广播、信任红绿灯会变灯、信任外卖到手温度合适。
她信任的不是AI。
她信任的是这么多年来，一切”看起来像系统”的东西，背后都有个真人在兜底。
但这一次不是。
这一次她信任的那只”系统”，其实只是一只读过很多游记的超级鹦鹉。
鹦鹉不知道4月的草原有蛇。
鹦鹉也不知道，自己不知道。
屏幕前的你，下次打开AI问它路线之前，可以回想一下这条新闻。
不是让你别问。
是让你问完之后，再自己多问一句。
以上，既然看到这里了，如果觉得不错，随手点个赞、在看、转发三连吧，如果想第一时间收到推送，也可以给我个星标⭐～
谢谢你看我的文章，我们，下次再见。