促进AI产业向上向善发展的中国司法智慧

文 |《《法治周末》记者 管依萌

责任编辑 | 王京仔

视觉编辑 | 王硕

当前，全球人工智能技术创新进入前所未有的活跃期，万物智联、人机协同的智能技术，既蕴含巨大机遇，也带来了治理挑战。

9月7日，最高人民法院发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》），这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件。

《意见》分为5个部分，共24条，立足审判职能定位，精准聚焦社会各界普遍关注的AI换脸拟声、AI幻觉侵权、网络开盒、大数据杀熟、自动驾驶、模型训练等问题，针对性明确涉人工智能纠纷案件实体裁判和诉讼程序规则。

中国政法大学人工智能法研究院院长张凌寒认为，未来司法将在人工智能的适应性治理中扮演越来越重要的角色。

《法治日报》律师专家库成员、北京市康达律师事务所高级合伙人苟博程表示，《意见》是我国司法应对AI技术发展挑战的重要举措，为各级法院审理涉AI案件提供了统一的裁判标准，也为AI产业发展提供了更加明确的司法可预期性。

人格权关系到每个人的人格尊严，是民事主体最基本、最重要的权利之一。9月7日，在最高人民法院举行的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》新闻发布会上，最高法相关负责人强调，要以包容审慎的态度平衡人格权益保护与人工智能产业发展，但是，包容并不等于纵容、审慎也不等于放任。

实践中，关于人格权，受关注度较高的问题是AI深度伪造。比如，AI换脸技术可以无差别地“收割”所有人的肖像，普通人也可能成为深度伪造的“目标”；再如，使用AI拟声技术，花几元钱就能“偷声”，效果足以乱真。

《意见》对滥用、恶用人工智能技术侵害人格权益的行为，区分不同类型作出针对性规定。

《意见》第四条明确规定：未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害；操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的，构成对名誉权的侵害，依法追究行为人的侵权责任。

此外，针对社会关注的“AI复活逝者”现象，《意见》也专门作出规定，依法保护死者的人格利益。

张凌寒表示，《意见》的落脚点是保护具体人格权益，同时为正当技术创新留下空间。除法律另有规定外，未经同意处理自然人的姓名、肖像等，生成可识别的虚拟数字形象并使用、公开，或者以自然人声音作为训练语料生成可识别的合成人声，均应依法承担相应责任；操控这些形象、声音实施不当行为，造成他人社会评价降低的，还可能侵害名誉权。对科研、测试等正当技术活动，则不宜脱离具体场景作否定评价，应结合处理目的、应用范围、风险大小、行为人的控制能力以及已经采取的防护措施具体判断。

在大模型训练过程中，不可避免会抓取公开肖像、声音等数据。张凌寒认为，关于训练数据的使用边界，公开信息仍然受到个人信息保护规则的约束。为训练大模型，在合理范围内处理个人自行公开或者其他已经合法公开的信息，且本人未明确拒绝的，一般不认定为侵权。是否属于合理范围，需要综合考察训练目的与模型功能的必要性、信息类型和敏感程度、对个人权益的潜在影响，以及本人公开信息时可以合理预期的使用范围。处理行为对个人权益有重大影响的，应当依法取得同意。同时，应当区分一般性模型训练与针对特定个人的人格特征复制，达到《意见》规定的可识别性和使用条件后，相关主体不能仅以信息来自公开渠道为由免除责任。

苟博程指出，这些规定也为数字人产业发展划定了明确的红线，要求企业在生成和使用数字人时必须取得相关权利人的授权，不得利用AI技术无差别地“收割”所有人的肖像和声音权益，有效防范了“AI一键脱衣”等黑产链条对社会秩序的破坏。

当前，利用人工智能技术对特定自然人的电话号码、网络账号以及社交媒体等公开信息进行追踪、分析，获取私密信息或者将所获取的私密信息泄露、公开等情况时有出现。

对此，《意见》第五条专门作出了规定：以刺探隐私为目的，利用人工智能对特定自然人的电话号码、网络账号及社交媒体等公开信息进行追踪、分析，获取私密信息，或者将所获取的私密信息泄露、公开，或者利用所获取信息侵扰私人生活安宁的，应当认定构成对隐私权的侵害。利用人工智能对特定自然人的私密空间、私密活动等实施拍摄、窥视、窃听等行为的，应当认定构成对隐私权的侵害，但是法律另有规定或者该自然人明确同意的除外。

苟博程认为，这些规定对利用AI技术进行隐私侵犯的行为进行了明确的界定，强化了对个人隐私权的保护。利用人工智能侵害人格权益的行为，具有成本低、传播快、影响广、损害难以逆转等特点，传统的事后提起诉讼的救济模式，不利于及时、有效保护受害人的合法权益，人格权侵害禁令的依法适用就尤为重要。为此，《意见》第八条予以明确。比如，受害人有证据证明其被AI换脸造“黄谣”，如不及时制止将使其合法权益受到难以弥补的损害的，可以向人民法院申请人格权侵害禁令。经审查，符合条件的，人民法院既可以依法责令网络用户停止有关侵权行为，也可以依法责令网络服务提供者、人工智能服务提供者及时采取必要措施，以阻止损害的进一步扩大。

苟博程表示，这一制度的创新之处在于适用场景精准，针对新型侵权行为，通过禁令实现“及时止损”，而非仅依靠事后判决。同时，禁令措施与损害范围、程度相适应，不得超出必要限度，避免过度限制技术发展。

“人格权侵害禁令制度的实质是将司法救济从‘事后算账’转向‘事前预防’，为AI侵权受害人提供了更为及时有效的救济途径。这一制度的引入，体现了司法对AI技术特点的深刻理解以及对受害人权益保护的高度重视。”苟博程说。

随着自动驾驶和辅助驾驶技术的快速发展，相关事故责任认定成为社会关注焦点。《意见》明确了自动驾驶汽车、具备驾驶辅助功能汽车致损时的责任承担规则，为受害人依法维权和行业规范发展提供清晰指引。

《意见》第十一条明确：因车辆存在产品缺陷导致交通事故造成损害，当事人请求生产者或者销售者依照民法典第七编第四章的规定承担赔偿责任的，人民法院应予支持。具备辅助驾驶功能的汽车因车辆缺陷与驾驶人的过错行为结合导致同一损害，当事人依据民法典第一千一百七十二条等规定同时请求驾驶人和车辆生产者或者销售者承担赔偿责任的，人民法院依法予以支持。

同时，《意见》对虚假宣传进行了规制：车辆生产者、销售者对自动驾驶汽车、具备辅助驾驶功能汽车的自动化等级、智能程度、性能、用途等进行虚假或者引人误解的宣传，损害消费者合法权益，消费者依据民法典、消费者权益保护法等法律规定请求车辆生产者、销售者承担民事责任的，人民法院依法予以支持。

苟博程指出，《意见》确立了“人机共担”责任规则，将“辅助驾驶”与“自动驾驶”区分开来，并规定了不同的责任分配机制，体现了司法对技术发展阶段的精准把握，既保护受害人权益，又有助于推动自动驾驶产业的健康发展。

《意见》第二十条还明确：行为人激活辅助驾驶功能后利用私自安装的配件逃避辅助驾驶系统监测导致道路交通事故，构成犯罪的，依法追究刑事责任。

这一规定，跟此前的审判思路一致。

2025年9月，王某群饮酒后激活汽车辅助驾驶功能，利用其私自安装的、可以逃避辅助驾驶系统监测的“智驾神器”配件，使车辆在实际无人监管状态下继续行驶，其本人则坐到副驾驶座位睡觉。该车行驶至目的地附近某路段处停止。因车辆挡道，过路群众发现车内仅有在副驾驶位睡觉的王某群，遂报警。

民警到场后，对王某群进行呼气酒精含量检测，发现王某群涉嫌醉驾，将其送至医院提取血样。浙江省杭州市临平区人民法院于2025年9月19日作出刑事判决：被告人王某群犯危险驾驶罪，判处拘役一个月十五日，并处罚金人民币四千元。该判决已发生法律效力。

该案的细节在最高人民法院发布道路交通安全刑事专题指导性案例时对外公布。该案例的裁判要点为：车载辅助驾驶系统不能代替驾驶人成为驾驶主体，驾驶人激活辅助驾驶功能后，仍是实际执行驾驶任务的人，负有确保行车安全的责任。行为人激活辅助驾驶功能，并利用私自安装的配件逃避辅助驾驶系统监测的，即使其不在主驾驶位实际操控机动车，仍应作为驾驶主体承担相应法律责任。

张凌寒补充道，在辅助驾驶事故中，应当分别审查车辆是否存在缺陷、驾驶人是否具有过错以及各自行为与损害之间的因果关系。行为人明知私装配件会逃避安全监测，仍然使用并导致交通事故的，是否追究刑事责任，还要依照罪刑法定原则，审查其主观罪过、行为危险性、因果关系和危害后果。不能仅因事故已经发生，便倒推犯罪成立。

“生产者、销售者应当如实说明车辆的自动化等级、智能程度、性能和用途，对产品的适用场景、固有局限和可预见风险作出明确提示，并建立与事故查明相适应的事件数据记录和保存机制。驾驶人不能因启用辅助驾驶功能而当然免除安全驾驶义务。通过区分车辆缺陷与驾驶人过错、明确必要数据的提供义务，司法裁判将进一步推动行业完善监测、预警和事故记录机制。”张凌寒说。

人工智能的影响是全领域的，法院的审判活动也会面临新的风险和挑战。比如，有的诉讼参与人向人民法院提交人工智能生成的证据及其他诉讼材料，提交前却未作核实。

最高法相关负责人在前述发布会上指出，诉讼参与人在诉讼活动中应当遵循诚信原则。人工智能只是辅助工具，诉讼参与人不得以“AI幻觉”、技术中立为由免除自身的法律责任。诉讼参与人对其提交法院的证据及其他诉讼材料应当甄别核实，确保其真实、准确。

为引导社会公众合理使用人工智能，预防虚假材料进入诉讼程序，切实维护司法秩序，《意见》从三个方面作出了规定：依法惩治利用人工智能虚假诉讼；依法规制利用人工智能伪造证据的行为；明确规定诉讼参与人对人工智能生成的诉讼文书、案例检索报告等负有核实说明义务。

虚假资料进入诉讼程序无疑会浪费司法资源、拉低司法效率。

目前，人民法院已发现多起利用人工智能生成的虚假案例，且当事人、代理人在将案例提交法庭前并未作全面核实。对此，《意见》第十九条明确：诉讼参与人提交诉讼文书、案例检索报告等材料如系使用人工智能生成，在提交法庭前应当认真核实相关法律、司法解释、案例等内容的真实性、准确性，在提交法庭时对使用人工智能辅助情况作出说明，并对有关内容的真实性、准确性依法承担责任。

张凌寒说，《意见》并未禁止诉讼参与人使用人工智能辅助起草诉讼文书或者开展案例检索，但使用者必须对提交材料负责。

《意见》第五部分（第二十一条至二十四条）还建立了涉AI纠纷的多元解纷机制和部门协同机制。苟博程认为，这些机制的建立，将有效提升涉AI纠纷的解决效率，为AI产业发展创造良好的法治环境。

“比如，《意见》第二十二条建立了针对涉AI案件的提级管辖机制：对涉及重大利益、疑难复杂新类型、具有规则确立意义、需要统一法律适用标准等涉人工智能纠纷案件，由上级人民法院提级审理。充分运用人民法院案例库，加强案例指导工作，促推法律适用统一和人工智能治理规则的完善。”苟博程表示，这一机制的建立，将有效提升涉AI案件的审理质量和权威性，为产业发展提供稳定的裁判预期。

最高法相关负责人在前述新闻发布会上还指出，《意见》紧紧围绕“坚持发展和安全并重”展开，既注重依法规制滥用恶用人工智能的违法乱象、加强数字时代民生权益司法保障，又旗帜鲜明支持科技创新和产业创新、为人工智能健康发展保驾护航。

《意见》确立了支持创新发展原则，避免通过过度严格的法律责任限制AI技术创新。

苟博程告诉记者，《意见》在多个条款中体现了对产业发展的支持态度，如为模型训练处理已公开个人信息提供豁免空间，对开源软件开发者给予适当责任豁免，对AI生成内容侵权采用过错责任原则而非无过错责任。这些规定为技术创新提供了必要的规则缓冲区。在鼓励创新的同时，注重防范AI技术失控带来的风险。《意见》明确要求防范算法歧视，预防和规制滥用AI技术侵害人民群众合法权益的行为，为AI发展系上司法“安全带”。这些原则相辅相成，共同构成AI治理的规则框架。

苟博程认为，值得注意的是，《意见》还采取了“留白处理”的灵活态度，对于目前难以形成共识的问题不作硬性规定，而是留给司法实践在积累经验后进一步明确，体现了司法的审慎与包容。

在苟博程看来，《意见》的定位是“补位”而非“抢跑”，即在专门立法出台前，为涉AI纠纷提供裁判依据，既保障了民事主体的合法权益，又为AI技术发展提供了确定性预期。

他认为，《意见》的创新价值主要体现在三个方面：首先，它不是简单地禁止AI技术应用，而是在司法认定上明确行为边界和责任认定，为技术发展提供了确定性预期；其次，《意见》在保护权利人合法权益与促进AI技术创新之间寻求平衡，体现了“以人为本、支持创新发展、筑牢安全防线”三项基本原则的有机统一；最后，通过具体规定，为涉AI案件审理确立了明确的裁判规则，包括归责原则、责任认定、证据规则、管辖机制等，为各级法院审理涉AI案件提供了统一的法律适用标准。

“AI技术的快速发展对法律规则提出了持续挑战。未来，司法系统需要继续与技术标准制定机构加强协作，推动技术标准与裁判规则的协同，如AI生成内容标识标准、自动驾驶安全标准等，为AI司法治理提供更加科学、合理的技术支撑。”苟博程建议。

⭐⭐⭐⭐⭐