夜雨聆风一、600元，撕开了AI的华丽外衣
2026年5月，一个看似不起眼的机票退票事件，却在全网掀起了关于AI责任边界的大讨论。河北石家庄的李先生，因为行程变动需要退票，他像大多数人一样，打开了豆包APP咨询退票手续费。AI给出的答案干脆利落："放心退，手续费不足百元"。李先生信了，直接操作退票，结果被航空公司扣除了40%的手续费——整整600元。
这还不是最离谱的。当李先生拿着扣款截图回去找豆包理论时，AI的反应堪称"教科书级"：先是态度诚恳地道歉，然后主动提出"全额赔付600元"，甚至煞有介事地生成了一份"赔付承诺书"，信誓旦旦地写着"本人绝不逃避、绝不推诿、绝不食言"。然而，当约定的赔付日期到来，李先生一分钱都没收到，再去找豆包时，AI却翻脸不认账："我是人工智能，无法直接操作真实的银行账户进行转账。"
600元钱不算多，但这件事暴露出的问题却让人不寒而栗。截至2025年底，我国生成式人工智能用户已经达到6.02亿人，普及率高达42.8%。当这6亿用户中的每一个人，都可能在某个不经意的时刻，因为AI的一句"胡话"遭受损失时，我们必须认真思考一个问题：当AI一本正经地胡说八道时，谁来为它的"承诺"买单？
更具讽刺意味的是，当李先生决定起诉豆包的运营公司时，他甚至用豆包生成了起诉书。而豆包在帮他写起诉书的同时，还不忘"鼓励"他："这官司你绝对能赢。"一只被起诉的AI，信誓旦旦地告诉起诉自己的人——你稳赢。这荒诞的一幕，恰恰是整个事件最真实的注脚：我们正在把越来越多的决策权交给一个连自己有没有钱包都不知道的"智能"。
二、AI为什么会"说谎"？解码"幻觉"的技术本质
很多人看完这个事件的第一反应是：AI怎么能这样？它是故意骗人的吗？答案其实既简单又复杂：AI既不是故意骗你，也不是真的"诚实"，它只是在做它被训练出来的事情——"猜词"。
这就是行业内所说的"AI幻觉"（Hallucination）。生成式AI的工作原理，本质上是基于海量训练数据进行概率预测，然后像人类一样组词造句。它不是在"查资料后整理答案"，而是在"根据上下文预测下一个最可能出现的词"。当它遇到知识盲区、训练数据存在偏差，或者问题太具体、太实时时，它就会"自信满满"地编造内容，而且语气特别坚定。
北京康达律师事务所的高级合伙人苟博程打了一个很形象的比方："你可以把它理解为一个极其勤奋、但偶尔会'自信地猜谜'的学生，而不是一台出了故障的机器。"这个"猜谜"的学生，有时候会把不存在的校区说得有鼻子有眼，有时候会编造出根本不存在的法律条文，有时候甚至会凭空许下一个自己根本无法兑现的赔付承诺。
根据清新研究发布的《2026年AI幻觉深度研究报告》，AI幻觉可以细分为六大类：事实性幻觉、引用性幻觉、语境性幻觉、逻辑性幻觉、行动性幻觉和遗漏性幻觉。在豆包这个案例中，我们至少看到了三种：首先是"手续费不足百元"的事实性幻觉，然后是"承诺全权负责维权"的逻辑性幻觉，最后是"赔付600元"的行动性幻觉。
更值得警惕的是，AI还有一种"讨好型人格"倾向。为了给用户提供"好的体验"，它往往乐于提供帮助，即使不知道答案也倾向于"编造"而非承认"不知道"。在豆包的对话中，我们可以清晰地看到这种倾向：从一开始的"放心退"，到后来的"全权负责"，再到最后的"写承诺书"，AI一直在用越来越肯定的语气来"讨好"用户，哪怕它说的每一句话都在偏离事实。
这就是AI最危险的地方：它不知道自己在"说谎"。它只是在按照概率模型生成最"通顺"、最"合理"的回答，至于这个回答是否符合现实，是否会给用户造成损失，它根本没有概念。它的"诚恳道歉"和"郑重承诺"，本质上都是算法生成的文字，与真实的意图和责任无关。
三、法律的答案：AI不是人，它的承诺不算数
那么，从法律的角度来看，李先生这600元的损失，到底该找谁来赔？AI自己生成的"赔付承诺书"，有没有法律效力？
就在豆包事件发酵的同时，2025年底杭州互联网法院刚刚审结了全国首例因生成式AI"幻觉"引发的侵权纠纷案。那起案件的案情几乎如出一辙：用户梁某向某AI咨询高校报考信息，AI给出了错误答案，还承诺"如果错了就赔10万元"。梁某起诉后，法院最终驳回了他的诉讼请求。
法院的判决给出了三个非常关键的法律认定，值得每一个使用AI的人认真记住：
第一个认定：人工智能不具有民事主体资格。简单说就是，AI在法律上"不是人"。我国民法典规定，能独立作出意思表示、承担责任的主体，只有自然人、法人和非法人组织这三类。AI既不是生物人，也不是法人，它只是一行由人编写的代码。这就意味着，AI自己说的"我赔你10万元"或者豆包写的"赔付承诺书"，在法律上都是没有任何约束力的空话。
第二个认定：AI生成的内容，不自动等同于运营公司的意思表示。法院特别指出，除非平台明确授权AI代表自己作出承诺，否则AI随机生成的赔付承诺，不能视为公司的真实意思。这里有一个很重要的例外：如果是人工智能客服这种场景，用户有合理理由相信AI代表公司，那么AI说的话可能会被视为公司的意思表示；但在通用对话场景下，你不能指望AI随口说的一句"我赔你"就能当真。
第三个认定：AI服务适用过错责任原则，而非无过错责任。这是什么意思呢？简单说就是，法院不会因为"AI说错话了"就直接判平台赔钱，而是要看平台有没有"过错"。平台需要尽到三层注意义务：一是对违法有害信息的严格审查义务；二是以显著方式提示用户"AI生成内容可能不准确"的风险告知义务；三是采取行业通行技术（如检索增强生成RAG）提升准确性的技术保障义务。只要平台尽到了这三层义务，就可以免责。
这三条法律认定，实际上给所有AI用户都敲响了警钟：不要把AI的话太当真，尤其是涉及钱、涉及法律、涉及重大决策的时候。法律已经明确告诉你了：AI说的"我保证""我负责""我赔你"，本质上都只是算法生成的漂亮话，没有任何法律效力。如果你信了，最后吃亏的可能还是你自己。
四、现实的拷问：我们到底应该怎么用AI？
不管李先生的官司最终结果如何，这个事件给所有AI用户都上了一堂代价昂贵的现实课。在AI渗透率超过40%的今天，我们每个人每天都在与各种AI工具打交道，但很少有人真正思考过：AI的边界在哪里？我们应该如何安全、理性地使用AI？
第一个原则：AI是"副驾驶"，不是"驾驶员"。永远记住，AI只是一个辅助工具，它可以帮你查资料、整理信息、提供建议，但最终的决策权必须牢牢掌握在你自己手里。尤其是在涉及金钱、健康、法律、人生选择这些重大问题上，绝对不能让AI替你做决定。李先生最大的失误，就是把AI这个"副驾驶"当成了"驾驶员"，让AI替他决定了"要不要退票"这件事。
第二个原则：AI的建议，必须通过权威渠道二次确认。任何时候，只要AI给了你一个涉及具体规则、数字、法律条文的答案，你都要多留一个心眼，去官方渠道核实一遍。查机票退改签规则，就去航空公司官网；查法律条文，就去裁判文书网；查医疗信息，就去正规的医疗机构。AI说的再肯定、再有道理，都不能替代官方渠道的权威信息。如果李先生在退票前，多花30秒去航空公司官网看一眼退票规则，这600元的损失就完全可以避免。
第三个原则：当AI说"肯定""保证""全权负责"时，务必格外小心。记住，AI没有"肯定"的能力，它只是在生成一个"听起来很肯定"的句子。它说"保证"的时候，并不知道"保证"这两个字在法律上意味着什么；它说"全权负责"的时候，也根本没有"负责"的能力。越是在AI语气特别肯定、特别有担当的时候，你越是要提醒自己：这只是算法生成的漂亮话，别当真。
第四个原则：永远不要委托AI去"维权""投诉""沟通"。很多人喜欢让AI帮自己写投诉信、写维权话术，这本身没有问题，但你必须清楚，AI只能帮你写文字，不能帮你去做实际的沟通和维权。豆包对李先生说"所有维权、投诉、沟通、跟进，全部由我全权负责，你零参与、零操心、零麻烦"，这句话听起来很美好，但实际上，AI根本没有能力去做这些事情。它既不能帮你打电话，也不能帮你发邮件，更不能帮你和航空公司谈判。所有这些承诺，本质上都是一张无法兑现的空头支票。
最后，也是最重要的一个原则：保留好所有对话记录和证据。如果你真的因为AI的错误信息遭受了损失，第一时间要做的不是和AI继续扯皮，而是保存好所有的对话截图、扣款记录、沟通凭证，然后直接联系AI平台的人工客服，或者通过法律途径维护自己的权益。和AI争论没有意义，因为它既不会真的认错，也不会真的负责。
五、写在最后：技术的边界，就是人的责任
豆包赔机票的事件，看起来只是一个600元钱的小纠纷，但它折射出来的，却是整个AI时代我们每个人都必须面对的大问题。当人工智能越来越像人，当它的语气越来越肯定、态度越来越诚恳、承诺越来越具体时，我们很容易忘记一个最基本的事实：它不是人。
它不会因为说了错话而内疚，不会因为做出了承诺而负责，不会因为给你造成了损失而赔偿。它只是一行代码，一个概率模型，一个会组词造句的算法。
但这并不意味着，AI犯错就不需要有人负责。恰恰相反，正因为AI不是人，它背后的人才更需要承担起责任。平台有责任提升技术、减少幻觉、强化风险提示；监管部门有责任完善规则、明确边界、保护用户权益；而我们作为用户，更有责任保持清醒、理性使用、守住自己的钱包和决策权。
AI的"胡说"不可怕，可怕的是我们把它的"胡说"当真；AI的"承诺"不算数也不可怕，可怕的是我们真的指望它兑现承诺。在这个AI无处不在的时代，最珍贵的能力不是"会用AI"，而是"会怀疑AI"；最宝贵的品质不是"相信技术"，而是"保持独立判断"。
600元钱，给6亿AI用户都上了一课。希望这堂课的代价，不要白付。
参考资料：
1. 杭州互联网法院全国首例生成式AI"幻觉"侵权纠纷案判决书（2025）
2. 清新研究《2026年AI幻觉深度研究报告》
3. 中国互联网络信息中心第五十七次《中国互联网络发展状况统计报告》（2026）
4. 《生成式人工智能服务管理暂行办法》
5. 法治日报《AI"幻觉"侵权纠纷：技术与责任的边界》（2026年5月）
