当AI开始“说谎”,智能助手“无中生有”谁来负责?从“两高”报告看数字时代的新考题

这不再是科幻情节。杭州互联网法院审理了全国首例因生成式AI“幻觉”引发的侵权纠纷案。原告因AI模型编造了不实的学校信息而提起诉讼。

1.《中华人民共和国民法典》规定，民事主体为自然人、法人、非法人组织。人工智能模型既不是生物学意义上的人，也并未被我国现行法律赋予民事主体资格，不是民事主体，不能独立、自主作出意思表示。

2.生成式人工智能服务提供者应履行服务功能的显著提示说明义务，采取有效提示措施，使公众认知人工智能的功能局限，起到警示提醒效果；生成式人工智能服务提供者应尽功能可靠性的基本保障义务，采取行业通行技术措施不断提高生成内容准确性和可靠性。

本案中，某人工智能公司已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务，案涉行为不存在过错，亦未构成对原告权益的损害，依法应认定不构成侵权。判决驳回原告的诉讼请求。

另外，从因果关系的角度分析。案涉生成式人工智能在原告询问高校报考相关信息时，虽生成了不准确信息，但该信息是否实质介入原告的后续决策，是否对其决策产生影响，原告并没有提供证据证明实际损害与AI输出之间存在直接因果关系。

综上，AI生成不准确信息本身不必然构成侵权，还需审查服务提供者是否存在过错、是否有实际损害及因果关系是否成立等。

这起案件为AI发展划定了“容错空间”，鼓励技术创新，但也提醒我们：在享受AI便利的同时，用户自身也需保持审慎，不能完全依赖机器的“一面之词”。

司法机关的每一次精准裁判，都是在为数字经济时代确立规则、传递温度。无论技术如何狂飙，公平正义的底线不容突破，人的尊严与权利永远是法治的核心。