
平台“AI智能回答”给出关于律师李小亮的错误回答。图/澎湃新闻
有媒体报道,南京一名律师在使用某搜索类App及网页平台查询个人信息时发现,平台的AI智能问答模块生成了虚假内容,凭空捏造其“获刑三年”的不实信息,同时搭配了该律师的执业证件照片,严重误导公众。
近日,这起被称作“国内人工智能大模型侵权第一案”的纠纷迎来两审终审结果,法院最终判定涉事平台构成名誉侵权。该案判决不仅为当事人挽回了合法权益、提供了司法救济,更关键的是,从司法层面清晰界定了AI技术的应用边界,压实了互联网平台的主体责任,具备极强的行业参考价值。
当下人工智能技术深度融入日常生活,各类AI生成内容迎来爆发式增长。各大AI平台争相加速技术迭代、抢占市场先机,始终以“快速更新”为核心目标,但配套的法律规范、伦理约束与风控体系相对滞后,技术飞速发展与规则审慎约束之间的矛盾日渐凸显。
案件审理过程中,涉事平台辩称,AI产生的虚假内容属于“AI幻觉”,具有不可预判性,且行业尚处于技术发展初期,不应苛责。该说辞虽贴合当前行业发展现状,却刻意混淆了技术客观局限与法律责任豁免的核心边界,不能成为规避侵权责任的理由。
从司法判定逻辑来看,该平台的AI智能回答并非简单的网络信息堆砌,而是依托算法筛选、加工整合后,自动生成的图文组合式定向内容。这些虚假信息指向主体明确、负面情节具体,直接贬低了当事律师的公众声誉与社会评价,完全符合名誉侵权的构成要件。
即便AI技术存在偶发性偏差与认知失误,平台作为技术研发提供者、产品运营管理者,依法承担着内容审核、风险排查、侵权止损的法定责任。算法可以存在误差,技术可以存在局限,但企业运营不能缺位失责,更不能借“AI幻觉”为自身侵权行为规避法律制裁。
此次司法判决将AI幻觉引发的不实内容纳入侵权评判范畴,明确了平台的主体责任,有望成为生成式AI侵权纠纷审理的标杆判例,对整个人工智能行业的规范发展起到重要的指引作用。
平台履职的核心义务,在于做好内容把关。无论是传统搜索引擎,还是新兴的AI智能问答,只要平台通过算法完成信息整合、二次加工并主动推送展示,就必须对输出内容的真实性、合规性承担审核与监管责任。
本案一审、二审法院均统一裁判口径,认定涉事平台将虚假文字信息与当事人肖像合成并公开展示,内容带有明确指向性和贬损性,已然构成名誉侵权。
这一清晰定性明确了核心准则:AI生成内容绝非法治盲区、法外之地,平台无法以技术中性、算法自主为借口,推卸自身应承担的法律义务与社会责任。
值得关注的是,法院并未支持当事人的高额赔偿诉求,仅判令平台作出书面致歉,这份判决体现出司法在鼓励技术创新与规制侵权行为之间的精妙平衡。
一方面,司法依法认定平台侵权事实成立,切实维护了公民的人格尊严与名誉权益;另一方面,充分考量了AI行业初创期的客观技术短板,以及平台事后主动整改、删除不实内容的补救行为,适度裁量、从轻判罚,未支持经济赔偿等诉求。
这种既划定责任红线、又避免过度惩戒的裁判思路,并非针对单一企业追责,而是立足行业长远健康发展作出的审慎判定,传递出明确信号:法律包容、鼓励技术创新,但所有创新都必须建立在保障公民合法权益的基础之上。
司法判决的权威,重在落地执行与敬畏遵守。据悉,二审判决生效后,涉事平台迟迟未主动履行判决义务,最终经当事人申请,法院已依法启动强制执行程序。
人工智能产业的蓬勃发展,离不开法治底线的保驾护航,而司法权威的维系,需要全行业、全社会共同敬畏守护。各大平台企业更应主动扛起守法责任,将此次判决视为深刻的法治警示教育,把司法指引转化为完善内部管控、优化内容风控的整改动力,这既是法定责任,更是行业头部企业的社会责任。
事实上,类似的AI侵权纠纷早已不是个例,AI幻觉引发的内容侵权问题,已成为行业普遍性难题。这也为整个人工智能行业敲响警钟:必须加快完善AI内容标识、源头溯源、错误纠错等全链条机制,从技术研发、日常运营、合规管控多维度筑牢风险防火墙。同时,监管体系也需与时俱进、迭代完善,细化行业规范,为AI技术合规应用清晰划定红线。
人工智能的创新发展,始终要行走在法治规范与伦理约束的轨道之上。平台作为技术持有者、内容输出方,必须坚守权责一致的核心原则,主动扛起主体责任,以严苛的行业自律、完善的风控机制,从源头规避技术滥用带来的各类风险。
唯有如此,才能让人工智能技术在赋能社会发展的同时,坚守合规底线、行稳致远,真正实现技术向善、
夜雨聆风