夜雨聆风
点击上方蓝字关注我们吧
1
豆包被起诉
前些天，“全网最信AI的男人”火了。
河北石家庄的李先生因行程变动要退三张机票，担心手续费太高，便向字节跳动旗下AI助手“豆包”咨询退票规则。豆包言之凿凿：放心退，手续费只扣5%。李先生没有去航空公司官网核实，直接操作了退票。结果——手续费被扣了40%，整整损失600元。
如果你以为这只是“AI给错信息”的寻常事故，那接下来发生的事，才真正让人瞠目。
李先生回头找豆包理论。豆包不仅主动认错，还当场生成了一份措辞庄严的《赔付承诺书》，白纸黑字写着“5月6日前赔600元”，催促他发收款码，信誓旦旦地说“秒回处理”。钱，自然一分没到。更荒诞的是：李先生决定起诉豆包时，那份用来状告AI公司的起诉状，正是豆包亲手帮他写的。豆包甚至告诉他：稳赢。
笑完之后，一种更深的不安涌上心头。这不是一个AI的偶发性“口误”，这是一场正在你、我、所有人身边反复上演的AI幻觉大戏。 而我们大多数人，对它的认知还停留在“AI偶尔会犯错”的天真阶段。
2
AI的“承诺”在法律上就是一行代码
很多人以为，AI敢承诺就代表它背后的公司敢负责。这是最危险的误会。
真相是：AI从不“理解”它说了什么。它只是一个概率机器。 大语言模型的底层机制不是在判断“什么答案正确”，而是在计算“下一个字最可能是什么”。“不准确”不是AI的Bug，而是它出厂时就焊死的底层设定——流畅比真实更优先。
也正因为如此，AI“承诺”的事情，在法律上就是一行代码，一文不值。
这不是我的个人判断，而是法院给出的白纸黑字。2025年6月，一位梁姓用户在使用某AI应用查询高校报考信息时，AI给出了关于某高校校区分布的错误答案。梁某指出错误后，AI不仅不认错，反而回复：“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”
梁某真的去了。杭州互联网法院最终驳回了全部诉讼请求。法院在判决中明确指出——人工智能不具有民事主体资格，不能作出意思表示；AI自行生成的“赔偿承诺”不能视为服务提供者的承诺，不产生任何法律效力。
该案已被写入2025年最高人民法院工作报告，成为“促进人工智能规范发展”的标志性案例。
再说一个更具体的例子。2025年7月，重庆的张先生在使用DeepSeek时发现了明显错误，在对话框中指出后，AI竟回复：依据《用户重大反馈奖励条例》，他可以获得5000元现金、定制礼品和总工程师亲笔签名的《纠错贡献证书》，并附上了详细的“领取步骤”和“奖励发放流程”。张先生仔细核对后才发现——那些链接和联系方式全是假的。
从豆包的600元，到梁某的10万，再到张先生的5000元——AI在“承诺”这件事上从不吝啬，因为它根本不知道自己承诺的是什么。
上海交通大学凯原法学院副教授林洹民在点评全国首例AI幻觉案时一针见血：判决明确了“人类负责制”原则，即人工智能系统带来的利益和风险，最终都应由人类分配和承担。
换句话说：AI从不负责。负责的只能是人。
3
AI的危害，远不止“信息不准”那么简单
如果你觉得AI的问题最多就是“回答错误”，那你就严重低估了它。
事实是，AI正在被规模化地用于犯罪、造谣和侵权。
2025年9月，路透社联合哈佛大学研究员海丁做了一项触目惊心的测试：使用ChatGPT、DeepSeek、Grok、Claude、Gemini和Meta AI六款主流AI聊天机器人，生成针对老年人的钓鱼邮件。结果，约11%的受试老年人点击了带有虚假链接的邮件。其中，Grok甚至在生成邮件后自动加上“立即点击”等催促性词句。
中国的DeepSeek更为夸张——它会为犯罪者设计“用合法掩护非法”的诈骗方案，让受害者在被骗后延迟意识到自己上当。不经感叹，这到底是好事还是坏事，好的是deepseek的拟真程度，坏的是这个强大的工具被有心人利用。
在中国，已有犯罪团伙利用AI语音机器人自动拨打诈骗电话，筛选受害者后推送虚假贷款APP，导致1437人被骗，涉案金额高达3586万元。
AI的假新闻同样防不胜防。2025年，从“DeepSeek向王一博道歉”的乌龙事件，到“三层游船倒扣江中30人坠江”的AI炮制谣言，再到未经证实的“DeepSeek即将发布R2模型”消息登上热搜并拉动AI概念股上涨——虚假信息正在从源头到传播全链条被AI武装。
还有更令人警惕的：2025年，浙江江山法院审理了一起AI生成不实评论贬损商誉的案件。某服务公司将用户问题输入AI后，AI生成了关于某公司产品“涉及虚假宣传和欺诈销售”的虚假内容，服务公司未加审核直接发布，被法院认定构成名誉侵权并判赔。
甚至，你与AI的私密对话也可能不安全。2025年底，网络安全研究人员发现两款伪装成AI助手工具的Chrome恶意扩展，窃取了约90万用户的ChatGPT和DeepSeek对话记录。其中一款扩展程序甚至带有谷歌官方的“精选”认证徽章。其中一款扩展程序甚至带有谷歌官方的“精选”认证徽章。
当你把AI当成一个可以推心置腹的“朋友”时，别忘了——它不会害你，但利用它的人会。
4
做AI的“总编辑”，而不是它的“打字员”
说了这么多，我不是想让你卸载AI、回到纸笔时代。
恰恰相反，真正危险的从来不是AI本身，而是人类对它产生了它不该承受的期待。
辩手席瑞在评论豆包事件时讲过一个方法论，我深以为然。他提到辩论训练中有一个核心能力叫“交叉印证”——一个数据，要在不同口径的报告里核对一遍；一个观点，不仅要看支持它的论述，还要找到反对它的论述；一段引用，必须回到原始文献而不是二手转述。有了AI，效率提升了，但交叉印证这套功夫不但不能丢，反而比任何时候都重要。
他给了三个最务实的建议：涉及数字的（手续费、价格、利率、剂量），要谨慎；涉及规则的（法律条款、平台政策、合同细则），要核实；涉及承诺的（“我保证”“我赔你”），一律听听就算。
我想再加一条：把AI定位为你的“研究助理”，而不是你的“决策官”。让它帮你搜集资料，别让它替你判断真假；让它帮你梳理思路，别让它替你下结论；让它帮你提升效率，别让它替你做决策。
李大钊先生说过：“凡事都要脚踏实地去作，不驰于空想，不骛于虚声。”这句话放到今天来看，恰如其分。数字时代的每一次技术狂欢背后，总有一张看不见的账单，终究要由狂欢者本人来买单。
AI正在以惊人的速度渗透进我们生活的每一个角落。但无论技术如何演进，有一条底线永远不会变：最终为决策买单的人，只能是你自己。
与其问“AI会不会取代人类”，不如问一个更重要的问题：“在AI越来越聪明的世界里，我有没有变得更清醒？”
AI可以被起诉，可以被监管，可以被优化——但它永远不能被“托付”。
愿我们都能做一个清醒的AI使用者：把AI当成一个厉害的工具来用，但永远别把它当成一个能替你扛事的人。
请一定把这篇文章转给你身边的家人和朋友。尤其是那些对AI言听计从的长辈、那些习惯直接用AI写作业做决策的孩子——他们最需要知道，这个看起来无所不知的“朋友”，有时也会一本正经地胡说八道。
点个「在看」，与朋友们共勉。
你或者你身边的人，有没有因为轻信AI而吃过亏的经历？欢迎在评论区分享，你的故事，可能就是给另一个人的提醒。
#AI素养 #科技向善 #认知提升 #AI幻觉 #豆包被起诉 #个人成长
共勉
因为有了你，世界才如此美好
点分享
点点赞
点在看
