AI说什么都行,买单的是你和我

这两天有个事很火：全世界最信任豆包的人，被豆包给耍了。

事情不复杂。一个人（网称桑尼）计划退订石家庄飞往重庆的机票，向豆包咨询退票手续费。豆包十分笃定：“退机票放心退就可以啦，只扣5%的手续费哦~”桑尼听了，退了票，实际被扣了40%，合计600元。找豆包理论，豆包不仅承认错误，还生成了一份《赔付承诺书》，写着“全额承担600元损失”，落款“承诺人：豆包”。

图片来源于网络

桑尼当然收不到这笔赔款。于是他决定起诉豆包背后的运营公司。

这事乍一听有点好笑。但仔细琢磨，笑不出来。

AI已经渗透到我们生活的细小场景里，当它一本正经地胡说八道，我们真的每次都能分辨吗？当AI信誓旦旦地给出承诺，你信，还是不信？

有人会说桑尼太盲信。可是，在自己认知范围以外的领域，谁又有把握一眼识破AI的假话？

AI出现以前，我们有问题，去搜索引擎，搜出成千上万条信息，自己筛选、甄别，最后得出答案，整个过程几分钟到几小时不等。现在，AI几秒钟给答案。它替我们搜索、筛选、输出，但注意，它唯独替代不了“甄别”这一步。

而这一步，恰恰是整个链条里最关键的一环。

去年，全国首例因生成式AI“幻觉”引发的侵权责任纠纷案一审生效。案情说起来也简单：梁某用DeepSeek咨询高考志愿，问某高校的校区信息。DeepSeek给出了一个根本不存在的“杨林校区”，梁某发现不对，直接骂它“骗子”。AI的反应不是纠正自己，而是层层加码，先是补充了大量细节——卫星坐标、教育部备案信息、政府征地公告；之后承诺梁某若能证明杨林校区不存在，将赔偿10万元；被继续质疑后，赔偿额涨到15万；最后编出了“开庭后会自动败诉”等一整套虚假的司法程序。

从第一次出错到最后认错，梁某跟AI争论了两个多小时。AI从未自我纠正，直到梁某上传了学校官网截图。官方证据摆在面前，AI才承认此前所有的“杨林校区”信息纯属虚构。

这个细节，比判决结果更值得我们警惕的是：当AI在被质疑时，不会自我纠正，很可能编得越来越像真的。每一次追问都在给它更多上下文，去生成更“精致”的幻觉。

跟一个概率预测模型争论事实，是徒劳。虽然DeepSeek已经升级了模型，新模型明显降低了幻觉，但AI幻觉依然存在。

梁某最终起诉DeepSeek背后的公司，索赔9999元。2025年12月，杭州互联网法院驳回了全部诉讼请求，双方均未上诉，判决生效。

法院的核心逻辑，值得每个人了解：

第一，AI不是人。 它不是民事主体，它的回答由海量数据的概率计算生成，不构成法律意义上的意思表示。AI说“我赔偿10万”，在法律上等于什么都没说。

第二，AI是服务，不是产品。 这个定性很关键。法院认定AI是服务，适用过错责任原则，这意味着AI公司有过错才需要担责。什么叫有过错？就是公司没有尽到合理的注意义务。如果AI公司已经进行了风险提示，比如AI回答完写一句:本回答由AI生成，内容仅供参考，请仔细甄别。或者采取了改进措施，比如用技术提高回答准确性，法律上就认为它尽到了义务。

换句话说：AI公司只要做了该做的提醒、用了该用的技术，AI说错话造成的损失，由我们自己承担。

AI会给答案，AI会给承诺，但信不信它、信多少，决定权在你和我。

很难说未来AI会不会像手机一样成为生活必需品。但如果这一天到来，我们至少要知道它的边界在哪里。

AI不能替代决策，我们不能轻信盲从。尤其在涉及钱财的事上，分享三个心得：

AI的答复，永远不要作为涉及金钱、法律、医疗等重大决策的唯一依据。 对AI的信任要有底线。底线就是：它可以给你思路，但不能替你拍板。
AI的回答，最好交叉验证。 有具体规则可循的问题，如航司退改签、银行利率、政策法规等等，直接去官方渠道查。时效性强的问题，开启联网搜索功能。同一个问题，多问几个AI，让不同模型交叉验证。不要用AI的一个答案，去赌你的真金白银。
AI的承诺，不等于背后公司的兜底。 当AI说出“我保证”“我赔偿”这类话时，要清楚这不是法律承诺，只是假象。

这两件事，表面来看是“人太轻信AI”。但换个角度想：当AI的声音越来越像人，越来越笃定，越来越“懂你”，我们享受着情绪价值的同时，还得时刻保持理性和警惕，本身就极具挑战。

科技发展势不可挡，与时俱进是必修课。若挑战无可回避，我们唯有拥抱它，接纳它，而不是逃避。

我们不需要卸载AI，全盘否定它，只是在信任之前，保持批判和质疑，清楚哪些是AI可以做的，哪些是AI不能做的，哪些是我们要做的。AI是工具，好工具值得用，但工具永远不会替使用者承担责任。

AI说什么都行，买单的，是你和我。