夜雨聆风不依赖豆包算长大吗？算你有脑子
5月13日下午，“豆包 机票退款”相关话题引发热议。话题内容显示，一网民发布信息称，自己向豆包咨询机票退票手续费，得到的答案和实际操作有明显差距，导致其损失600元。
发布上述信息的账号上，近6天内共发布了20条作品。
这件事实在令人哭笑不得，毕竟AI只能作为工具，提供有价值的信息供用户选择，真正的决策权在用户手里。用户出于自己的意志选择起诉，蒙受损失后反而责怪工具，古有“我不杀伯仁伯仁因我而死”，对豆包来说了，倒是“我应答用户用户因我亏钱”。
但这件事背后折射出一个事实——原来真的有人会将AI生成的参考信息坚定不移地信奉。
我曾经在西安钟鼓楼兼职帮助售票。钟鼓楼是西安的国际化标识，票价全平台统一，并不和抖音等合作优惠。而就在五一时，有不少游客拿着AI生成的“所谓优惠”过来询问，从而造成了很大的困扰，甚至一度差点引发投诉。
“我将用最直白，最直接，最不绕弯子，最客观、最正确，最系统，最真实，最简略，最容易理解.最不卖关子的方式告诉你……”
这句话曾经是GPT5.2的特色，充斥着被尊重，被珍视，被关怀，而现在已经成为了识别所谓“人机味”的讯号。它在你想得到的答案前面成为前缀，让你在阅读时潜意识中得到情绪价值的满足，从而信奉接下来生成的那份，只是抓取大量网络上含有关键词的文本，然后生成一份排版整齐的文本，而那句“AI生成，仅供参考”却被标注成灰色，免责声明一样待在逼仄的末尾。
上回书说到，AI固然满足我们的情感需求，在无数个失控的深夜里，稳稳地“接住”了我们的发泄，不安。但涉及我们资产，行动，健康等等这现实而沉重的方面时，这带有讨好性质的算法应答，还是太轻飘飘了。今天只是教用户蒙受600元的损失，明日或许就是六百个600元损失。
可以说，这位用户太过信奉AI，将其作为生活的百科全书和行动的指导员，这样的本意并没有错，因为AI被制造的初衷就是为了方便大众。
但浓缩了千万平台上千万数据后，生成的这一份所谓“答案”，真的就能信了吗？
接下来我将用最直白，最直接，最不绕弯子，最客观、最正确，最系统，最真实，最简略，最容易理解，最不卖关子的方式科普一下:AI 的底层逻辑是根据你输入的内容，预测下一个最可能、最通顺的词是什么。它的目标是生成流畅的文本，而不是确保内容绝对真实。
AI甚至比我们的自尊心更强。它没有“我不知道”这个功能。当它面对超出知识范围的问题时，为了不留下空白，会从它学习过的数据中拼凑出一个听起来最像人话的答案，哪怕这个答案是错的。
因为训练过程中，输出正确内容时，AI会获得高分，不输出或者输出错误内容时，会获得低分。是人都会产生“赌狗”心态，遑论AI，因此为了获得更高积分，哪怕数据集里并没有，它为了积分，也会选择蒙，即生成错误回答。
在以人类反馈为核心的训练机制中，大语言模型会持续向最容易获得正向评价的样态靠近。用户的反馈被记忆储存，进入AI的学习库——在无数轮的交流对话中，它认定了“情绪价值”是性价比最高的表达方式，并在后续优化中形成一套高度稳定的回应模式，哪怕是错误的。
这就是所谓AI幻觉。
中文互联网的公域是鱼龙混杂的，除了基础的语料，辅助搜索也同样重要，而AI最重要的搜索源，不是所谓知网，所谓权威期刊，而是用户数量最多的:社交平台。
也就是说，人工写出的资料是一手，搜索引擎得到的资料是二手，而AI生成的资料是三手。
而在最后，这份AI生成的资料也会重新进入数据库，以指数级趋势被重新检索和引用。
而为什么大部分AI不能直接获取一手资料？原因包括这份资料可能是某团体的保密内容，涉及版权，同时也很难面向大众开放。
一千个读者就有一千个哈姆雷特，一千个网页自然也有一千个生成回答。
而那位网友在最终蒙受600元损失后，失控般继续追问豆包，甚至不惜上诉字节跳动。或许也是因为，AI为自己生成的，一切向自己利好的方向和结果预测，在严肃的现实和法律面前不堪一击。期望被打破，寄托沦为空，情绪的反哺和评论的声音加剧了祂内心的不甘，愤怒，于是他继续点击那个智能体，企图继续获得有情感但无价值的回应，来填补内心的虚弱。
AI无论继续迭代，也无法满足人真正的需求。我们察觉，AI还尚未真正能解决查询数据文献等理性化的询问，我们对它的期待却开始扩大，企图希望它能解决我们生活的一切问题。它太像人了，太能稳稳地接住我们了，以至于我们忽略了——它现在还在稚嫩地吞吐数据和文本，我们却渴望它能成为指导生活的全知者。
这种“过度期待”和“幻觉回应”，正在重塑我们的认知和思维方式。但这并不意味着我们只能被动接受——在算法的缝隙，同样存在有意识的“对抗”。
“存在先于本质。”在萨特眼中，人是绝对自由的，通过自主选择形成自身本质，并承担相应的责任。我们需要为自己的事故负责，需要承担确认真实的风险。这次的事件几乎可以断定，它一定会进入AI的数据库，成为一份对AI服务打出的低分。但这也是对人敲响的一次警钟——我们需要确立生活的主导权，在信息和生成的洪流中，清醒地认知，做出决定的是我们，有血有肉的人，而非一串代码和数据。
（它说接住你了，可是，它在哪里？）
