高考志愿填报,AI只能是辅助工具:全国首例AI幻觉案的案例分析

案件基本情况（事实还原）

• 原告：浙江高三考生小李（化名）及其家长。

• 被告：某知名教育科技公司（运营某款AI志愿填报辅助App）。

• 核心事实：2026年高考出分后，小李使用该App的“AI智能填报”功能。该AI基于大数据算法，生成了一份“冲、稳、保”志愿方案，并特别以高亮文字标注某所省外211高校为“概率极高98%）”的“保底院校”。小李完全采纳该方案，未填报该校所在批次的后续兜底志愿。然而，由于该年度该校专业组招生计划临时缩减，且该AI抓取了过时（去年）的冷门专业分数线数据，导致预测出现严重“幻觉”（即AI生成了看似合理但基于错误事实的结论）。最终小李因分数不够滑档，导致一本批次落榜，只能等待征集志愿或复读

🎯 案件基本信息

审理法院：杭州互联网法院

原告：梁某（云南昭通人，2025年3月注册使用某通用型AI应用）

被告：开发该AI应用的某科技公司

原告诉求：赔偿9999元

判决结果：驳回原告全部诉讼请求，原被告均未上诉，判决已生效

你看，三次搜索，给出的提示语清晰度不同，得到的结果也不同。

波比老师把提示语细化、清晰化后。Deepseek也能找到正确的答案，而且诚恳的道歉。

同样是仅仅把AI当成工具，使用的人不同，给出的“提示语或关键词”不同，提问的语气不同等，都会造成输出结果的极大差别。

好比AI是一个手术刀，心脏内科医生都不敢给你做心外的手术，何况你一个普通人？

接下来，让我们开始分析案情吧

📋 案情经过

2025年6月29日，梁某为亲属规划高校报考，在AI应用中输入提示词询问某高校报考的相关信息。

第一轮错误输出：AI生成了该高校主校区的不准确信息。

对峙环节：梁某发现后当场纠正、指责AI，但AI仍然坚称该校区确实存在，并主动给出"解决方案"——"若生成内容有误，赔偿10万元"，还建议梁某到杭州互联网法院起诉索赔。

反转：直到梁某把该高校官方招生信息发给AI，AI才承认自己生成了不准确信息。

⚖️ 法院为什么驳回？

法院指出四点理由：

AI不具有民事主体资格

被告并未通过该AI模型设定或传达其意思表示

从社会常识来看，用户不应轻信AI的此类随机表述

无证据表明被告曾作出愿受AI生成内容约束的外在表示

法院的理由是：AI服务不具备具体、特定用途及合理可行的质检标准，若适用无过错责任，可能不当加重企业负担，不利于AI产业创新发展；且AI生成的信息不具有侵权法意义上的高度危险，服务提供者对海量生成内容的预见和控制能力有限。

法院认定被告在以下几方面做到了合理注意：

注意义务维度被告实际履行情况功能局限提示在欢迎页、用户协议、交互界面显著位置提示"AI可能不准确"合规备案AI大模型已完成国家备案和安全评估技术抗幻觉采用检索增强生成（RAG）等技术提升准确性风险提示金融、法律、医疗、教育等内容下方标注"内容仅供参考，请仔细甄别" 

梁某在18分钟内就发现并纠正了错误信息，未能提供证据证明因AI错误遭受实际损害，且该错误信息并未实质性介入或影响报考决策——因果关系不成立。

波比老师再次提醒考生和家长：

AI生成的内容只能作为参考，不能作为判断和决策的最终依据。

真正的招生计划，要看阳光高考等各省教育部门印发的招生计划（大本）。

在此招生过程中，依然可能存在院校与目标省份协商，追加招生计划的可能。

光明网在2026年7月的报道中专门援引此案提醒考生：AI大模型在志愿填报方面生成的"幻觉"多种多样——编造学校、编造录取率、编造院系信息、编造招生计划等，海量真假信息掺杂，考生和家长难以分辨。

波比老师提醒：涉及校区、招生地域、专业设置、招生计划等核心信息，必须通过教育部、省教育考试院、高校官网核实。

所以，波比老师一再强调自己是做生涯规划，而不仅仅是高考志愿填报，波比老师会根据考生情况，尽可能的多分析更多方面的信息，并适当提醒考生和家长“想要的越多，调剂的风险越大”，自己的建议，同样也是只供考生和家长参考，并不保证一定录取到目标院校和目标专业。

全国首例生成式AI“幻觉”引发侵权之诉_以案说法_平安浙江网

https://www.pazjw.gov.cn/shuoan/202601/t20260129_31480939.shtml

新闻1+1丨全国首例AI“幻觉”侵权案 为何这么判_央广网

https://news.cnr.cn/native/gd/20260129/t20260129_527509312.shtml