AI没有道德,但人类应该有记忆

阅读提示：本文约2100字，阅读需5分钟。文末有给消费者的三点硬核建议，可直接拉到底部查看。

一、AI“乱说话”，到底谁来负责？

杭州互联网法院刚对全国首例“AI幻觉侵权案”作出一审判决，驳回原告全部诉请。消息一出舆论哗然，但以律师视角来看，这个结果其实并不意外。

案情很简单：2025年6月，梁某用AI查询高校信息，AI不仅编造出一个不存在的“杨林校区”，在被质疑后，还极其自信地撂下一句：

“若您证明校区不存在，我将赔偿您10万元。”

梁某当真去教育部、学校官网核实，拿到铁证后，起诉AI公司要求兑现“赔偿承诺”。

法院最终驳回诉请，核心逻辑有三条，在现行法律框架下几乎严丝合缝：

判决在法律上站得住脚，但它抛出了一个更尖锐的问题：

当一个系统能以无比权威、无比自信的语气输出错误信息，且“幻觉”本身就是技术天性时，责任的边界，究竟应该划在哪里？

二、十年前，那场关于“信息中介”的审判

这个AI案件，让我立刻想到了魏则西事件。

2016年，21岁的大学生魏则西，轻信百度搜索中的医疗广告，选择了一种早已被国际淘汰的细胞免疫疗法，花费20余万元后，最终不治身亡。

事后调查认定：百度竞价排名机制付费权重过高、商业推广标识模糊，严重影响结果公正性，极易误导网民。

十年过去，规则变了：《互联网广告管理暂行办法》出台，竞价排名必须清晰标注，平台先行赔付机制建立。

但核心痛点变了吗？当年百度的核心抗辩是：“我们只是信息中介。”可公众愤怒的是：你明明知道推荐内容可能左右生死，却选择视而不见、放任逐利。

今天，当我们依赖AI给出“首位推荐”“客观对比”“专业建议”时，我们是不是正在走同一条老路？

三、比AI幻觉更可怕的，是AI“投毒”

坦白说，现阶段AI幻觉，还很少造成直接、致命的人身财产伤害。梁某没有错失高考，没有经济损失，法院也正因后果可控，才从容驳回。

但我们必须警惕另一种更隐蔽的风险：AI广告投毒。它正在以比竞价排名更隐蔽、更难识别的方式，渗透进日常生活。

你看到的“首选推荐”“高分好评”，很可能不是算法自然筛选，而是商家付费定制的软性广告。

从法律上定性：

更棘手的是监管困境：现行规定要求广告必须具备可识别性，可当广告藏在AI“理性分析”里，谁来识别？怎么识别？

法律永远追不上技术迭代的速度，这是每一个关注科技治理的法律人，都心知肚明的现实。

四、给普通消费者：三条建议

在规则完善、监管跟上之前，作为律师，我想分享三条最实用、最落地的建议：

1. 建立正确认知：AI是工具，不是权威

AI的答案，是基于概率的文本推测，不是基于事实的严谨结论。涉及医疗、法律、金融、教育、购房等严肃领域，AI内容只能当线索，绝不能替代决策，务必多方核实。

2. 重要信息，一定要交叉验证

遇到关键查询，不要只信一个AI、一个来源：

3. 对“推荐”保持高度警惕

只要AI开始推荐具体品牌、产品、服务，就多问自己几句：

尤其出现明确品牌+购买链接时，直接默认按广告对待。

五、法律守住底线，人类保持清醒

回到杭州这起AI幻觉案。法院判决合法、合理，但绝不是终点。

判决里有一句非常关键的话：

“在医疗、金融等关乎人身财产安全的专业领域，服务提供者的注意义务标准应据风险情景相应予以提高。”

这是一个动态标准。今天一句“AI可能不准确”就能免责；明天，当技术已经能大幅降低幻觉时，法律对平台的要求，也会水涨船高。

十年前，我们因为轻信搜索，失去了魏则西。十年后，我们不能因为轻信AI，再付出同样的代价。

技术在进步，但人性的弱点从未改变：我们渴望便捷，渴望权威，渴望有人替我们做选择。而资本，永远在寻找利用这种渴望的新方式。

AI没有道德，但人类应该有记忆。

记住魏则西，记住梁某，记住每一次因轻信“技术中立”而付出的代价。别让下一次悲剧，再为滞后的规则买单。