区块链改变的是“信任”,AI改变的是“生产力”。在Web3领域,二者的融合是趋势也是必然,并且已经不再是未来概念:蚂蚁数科去年9月已发布“智能代理合约”,让AI直接驱动链上智能合约;瑞士持牌银行Sygnum今年5月也已用AI代理替客户执行链上交易,每笔都得客户本人确认,通过人机参与框架,解决了不交出资产控制权的情况下,赋予AI代理自主权进行交易的问题。
AI不再是只能你问我答的“查询工具”,它已经能帮你订机票、写文章、做交易决策,甚至接管车辆驾驶,处理复杂工作等等,就像你的一个“员工”,这就是常说的AI Agent。
那么问题也随之而来:当AI替我们做决策、执行操作时闯了祸,这个责任到底要算在谁头上?
| 一、咱们先看几个场景
1、你让AI助手订机票,它在没有询问你的情况下,就选了最便宜的航班,而且不可退改,结果你行程有变,改也不能改,退也不能退;
2、你买AI炒股软件,你基于对算法的信任完全交给它,结果账户缩水30%,你找平台,平台以“AI仅供参考”为由拒绝担责;
3、开车在路上,突然微信有消息,当你打开“智能驾驶”低头回微信时追尾前车,交警认定你全责;
4、你通过AI写一篇文章,结果AI“移花接木”将错误信息相互匹配,侵害他人名誉权,然后起诉向你索赔。
| 二、AI闯祸,责任到底归谁?
AI的发展速度远远超过了相关立法速度,我国现行法律还没有赋予AI民事主体资格,依据《民法典》第二条可知民事主体有三类:自然人、法人、非法人组织,AI哪一类都不算,也就意味着AI自己不能承担责任,所有后果都要由相关的人类主体承担。
按照过错划分,责任主体主要分为三类:
1、使用AI的你
《民法典》第一千一百六十五条规定:行为人因过错侵害他人民事权益造成损害的,应当承担侵权责任。依照法律规定推定行为人有过错,其不能证明自己没有过错的,应当承担侵权责任。
你作为AI的使用者和最终决策者,负有审慎审核义务。比如用AI写文章,你不审核就署名发布,结果内容张冠李戴侵害了他人或某公司的权益,即便你主张“内容是AI生成的”,法院也大概率会判定由你承担责任,因为你是内容的发布者和受益者,不能以“AI自动生成”为由免除自身的审慎义务。
2、部署运营AI的平台
根据《生成式人工智能服务管理暂行办法》、《民法典》第1197条,服务提供者要依法承担网络信息内容生产者责任,履行网络信息安全义务,AI生成的图片、视频等都需要打上标识,发现违法内容要立即停止生成、停止传输、消除,另外平台在知道或者应当知道使用者利用其网络服务侵害他人权益,未采取必要措施的,需要与该用户承担连带责任。
主要责任在于是否对AI生成的内容把关,生成的内容是否违法以及有没有立即处置、图文视频是否打标识、明知他人利用该服务批量造假有没有采取必要措施,都影响着出了事板子打在哪。
3、大模型厂商
大模型是AI服务的底层技术提供方,其责任核心围绕“算法合规与产品缺陷”,比如:
训练数据未获得合法授权,导致模型生成内容天然存在侵权风险;
算法存在重大设计缺陷,比如自动驾驶模型识别错误、交易模型逻辑存在漏洞,且未向使用者充分提示风险,从而导致使用者人身、财产受损;
明知自身模型被广泛用于违法活动,却不采取技术手段限制或停止服务。
但,如果使用者故意绕过安全机制输入违法指令,或者运营平台二次开发时修改了模型逻辑,大模型厂商无过错的,一般不承担责任。
| 三、花哥给你三条AI风险防范建议
1、把AI当实习生,守住最终决策权。法律上的“审慎注意义务”,反应到日常生活中就是:AI写的文章发布前要仔细审核,AI订的机票酒店要核对信息再确认,开辅助驾驶时必须手握方向盘、保持路况注意力。AI目前无法承担任何责任,它执行操作的结果是由你来兜底。
2、重要操作全程留痕,做好证据保全。比如生成商用内容、操作资金交易、处理敏感信息,一定要留存完整记录:提示词输入界面、AI生成的原始内容、平台的风险提示截图、操作日志等。一旦出现纠纷,责任划分的核心就是“谁有过错”,完整的留痕在自身无过错时帮你维护权益。
夜雨聆风