ARTICLE · 1063269
在AI时代,我们应该怎么用法律手段规制AI侵权风险
2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,《意见》列举了AI时代一些最容易出现的问题,以及如果出现了问题会怎么处理。整体上来说,《意见》是在没有突破现有法律框架和诉讼规则的前提下,对涉及侵犯财产权、人格权、知识产权等方面的责任认定和免责判定标准做了更加清晰和更具有可操作性的安排,以便能让AI提供者、使用者以及权利人对AI潜在的风险和后果有一个预期,以便做出安排。
确认了AI侵权的过错原则和过错认定标准
《意见》明确涉AI侵权责任的归责原则是,法律没有明确规定适用无过错责任或者过错推定责任的,应当依照民法典第一千一百六十五条第一款规定的过错责任原则认定行为人是否承担侵权责任。在判断行为人有无过错以及过错程度时,应当综合考量AI应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围,AI开发者、提供者等相关主体为预防和减少AI侵权所采取的措施及技术上的可能性,AI使用者对利用AI技术实施的侵权行为可能造成损害的预见能力与控制能力等因素。
一般过错责任的认定包括故意和过失,从AI提供者的角度,一般来说是过失,也就是应该知道但疏忽了,或者知道但轻信可以避免,故而没有对可用利用技术侵权进行制止或者防范。但是AI使用者,过失和故意兼而有之。从过往案例中,提供者经常用来为自己辩解不存在过错的理由是“技术中性”,即该技术既可以来用来做好事,也可以用来做坏事,那么提供技术行为本身就不具有过错可归因性,而应该由技术的使用者来承担过错责任,否则技术提供者就会因为担心技术被滥用而不敢推出新的技术,进而阻碍技术进步。这个“技术中性”规则最早来源于美国联邦最高法院在1984年“索尼”案(该案是一起涉及版权侵权的案件)中提出,并在国内“快播涉嫌传播淫秽物品案”的诉讼中被快播创始人王欣等人在无罪辩护中引用。但是这个“技术中性”抗辩规则,在美国一直都是被严格限制的,因为任何一种技术都能找到一种合法的用途,如果扩大适用范围,就会导致技术提供者对使用人侵权的忽视、放纵甚至是合谋。特别是作为社会影响巨大、技术伦理边界尚不清晰的AI技术,必须让技术提供者牢牢树立“不作恶(Don’t Be Evil)”的理念,不仅是自己不作恶,还要尽一切技术可能的努力让使用者不作恶。因此《意见》将AI提供者有没有能力发现并阻止他人实施侵权行为作为判定提供者有没有过程及过错程度的关键。既明确了AI技术提供者在预防和减少AI侵权方面的责任,要积极主动采取措施,又承认了AI提供者所做努力的边界是技术存在可能性,以求在鼓励技术进步和防范AI技术作乱的政策取向之间的平衡。
AI服务和AI产品造成使用者损害时,提供者免责标准不同
《意见》中对于AI服务(我们日常接触最多的回答问题的生成式AI属于服务)和AI产品造成使用者损害,AI提供者的承担责任和免责的标准是不一样的。对于AI产品,《意见》规定法院应当依据产品质量法关于“产品”的定义,依法准确认定以实物为载体的AI产品并适用相应的法律规则,而根据产品质量法,“产品”是指经过加工、制造、用于销售的产品。AI产品存在缺陷造成损害的,生产者、销售者应当依法承担产品责任。在认定AI产品是否存在危及人身、财产安全的不合理危险时,应当综合考量AI产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度,以及是否符合相关国家标准、行业标准等因素,并重点审查生产者、销售者是否就AI产品的适用场景、固有局限及可预见的风险等进行了真实的说明和明确的警示。
用AI回复问题与提供AI产品的最大差别是,AI给的意见和建议是否采纳完全是靠人的判断,AI提供者只需要提示一句“AI意见可能不准确,是否采纳应自行判断,后果自负”就能免责。但是AI产品的提供者如果跟购买者说“AI产品可能有问题、有风险,是否使用应自行判断,后果自负”,那就变成一个笑话,因为人一旦购买就是要使用的。AI产品的提供者就要保证这个产品的正常使用,并对AI产品正常使用过程中可能存在的固有缺陷和风险进行明确提示。最典型的就是自动驾驶,提供商如果想免责,一方面要保证自动驾驶系统是没有重大缺陷的,或者说至少是满足国家和行业标准的,另一方面就是要对用户进行清晰的教育和警告,提供的产品到底是自动驾驶还是辅助驾驶,能用它做什么,不能做什么(比如说手不能离开方向盘等)。
人格权保护,重点打击恶意诋毁他人的行为,提供了诉前行为保全救济手段。
目前AI落地的应用场景有限,其中影视行业应用最为广泛,据了解国内Token消耗一半以上都是用来制作AI短剧。自媒体内容从文字图片进入AI视频传播时代,而AI提供者为了提供满足各种需求的视频素材,又会海量收集处理个人照片、声音、视频,更有甚者,好事之徒、不法分子甚至利用AI技术制造传播以假乱真的照片和视频来博取点击量或是侮辱诽谤,肖像权、荣誉权等人格权以及个人信息保护将是AI侵权的重灾区。
《意见》对于AI侵害人格权的划定了三条标准,总的指导原则是“不得违反法律、法规,不得违背公序良俗”。肖像权具体保护的方式是“未经同意使用”、“当事人主张侵权”,相当于是刑事自诉案件的不告不理。名誉权的保护标准是“通过AI技术实施不当行为或发表不实言论,降低该自然人或者他人社会评价的”。对于使用个人信息训练AI模型是默认自动同意,“有重大影响”例外征得同意,这个标准虽然没有突破个人信息保护法的保护原则,但是确实通过细化个人信息保护法中“合理范围”处理的认定标准,降低了AI模型企业处理个人信息的法律风险,试图在“个人信息严格保护”和“AI数据饥渴”之间寻求平衡。
依法适用人格权侵害禁令制度。自然人、法人或者非法人组织有证据证明行为人利用AI正在实施或者即将实施侵害其人格权益的违法行为,不及时制止将使其合法权益受到难以弥补的损害,向人民法院申请采取责令行为人停止有关行为或者责令有关网络服务提供者、生成式AI服务提供者停止提供有关服务的措施的,人民法院可以依法作出人格权侵害禁令。在作出人格权侵害禁令时,人民法院应当结合被侵害的人格权类型、违法行为的方式以及可能造成损害的范围、程度等因素,采取相应的禁令措施,不得超出必要限度。典型案例如今年上半年一段东鹏特饮董事长不喝自家饮料的AI虚假视频疯狂流传,几天之内东鹏特饮的股价蒸发了70亿。让人们彻底见识到了AI虚假视频以假乱真的水平和对企业和个人社会评价的危害性,诉前行为禁令正是为了防范这类利用AI侵犯荣誉权的不发行为。
问答式AI服务提供者的侵权责任认定。生成式AI自动生成的内容侵害他人名誉权、隐私权等人格权益,经权利人通知,生成式AI服务提供者未及时采取停止生成侵权内容等必要措施的,应当对造成的损害依法承担侵权责任。通知应当包括构成侵权的初步证据及权利人的真实身份信息。网络用户通过输入侵权提示词等方式恶意诱导生成式AI生成侵权内容并造成他人损害的,该网络用户应当依法承担侵权责任;经权利人通知,生成式AI服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施,权利人依据民法典第一千一百九十五条的规定请求该网络用户、生成式AI服务提供者承担民事责任的,人民法院依法予以支持。这条意见中引用的民法典第1195条规定了网络服务提供者承担间接侵权责任的情形。AI服务提供者对AI使用者的侵权一般不承担责任,但应在接到权利人有效通知后及时删除侵权内容,否则应对接到通知后扩大的损失部分承担连带侵权责任,这种“通知+删除”,实际上为AI服务提供者对AI使用者造成的侵权提供了免责的“避风港”。
涉AI知识产权纠纷案件采用举证责任倒置,保障诉讼权利平衡。
依法规制涉AI侵害知识产权的行为。AI生成内容侵害他人著作权的,人民法院应当综合考量AI服务类型、行业特点、训练数据来源、各方参与度、采取的必要措施以及获利情况等因素,依法合理认定AI开发者、提供者、使用者的责任。AI开发者提出不侵权抗辩的,应当责令其提供训练数据来源、训练过程记录、模型运行模式以及科学理论依据等予以佐证。权利人主张AI提供者利用算法技术侵害其著作权的,应当提供相关证据。AI使用者知道或者应当知道在先作品存在,利用AI生成与在先作品实质相似的作品且无合理抗辩理由,在先作品权利人请求其承担侵权责任的,人民法院应予支持。利用AI实施侵权假冒、虚假宣传、刷量刷单等行为,侵害他人权利或者构成不正当竞争的,依法承担相应责任。
由于AI算法完全是一个“黑箱”,权利人很难证明AI提供者是利用算法技术侵害其著作权,因此为了保证权利人和AI提供者在诉讼中的权利平衡,保护知识产权,在AI知识产权纠纷案件处理中延用了商业秘密侵权案件中的举证责任倒置规则,即权利人只需要证明自己是合法的权利人,并且证明通过AI提供者平台生成的内容与自己著作内容“实质相同”即完成举证责任,接下来需要由AI提供者披露自己的训练模型、数据、方法等资料,来证明自己在AI模型训练过程中没有侵犯权利人著作权,否则AI提供者就用承担都不能举证的不利后果。