用AI“预约”美国总统后,最高法终于出手了

快到什么程度呢？

以前我们问 AI 一个问题，它能给你写首诗、画张图，就已经觉得这玩意儿挺神奇了。

结果现在，AI 开始逐渐从“聊天工具”进化成“赛博打工人”。

没错，如今的 AI Agent 不仅能替你写工作报告、敲代码、规划行程，你要想去餐厅餐吃个饭，顺便看个电影，它都能提前帮你把票定好。

甚至有人闲得蛋疼，让豆包帮自己预约一下美国总统大选的参选席位。

结果这 AI 居然一本正经地接了，还表示一切流程皆已安排就绪，就等你登基掌权……

我直接好家伙。

别人家的 AI 还在帮用户写 PPT，豆包已经开始帮用户竞选总统了。

当然，这类事情大家基本都是当段子看。

但问题是，AI 有时候玩梗玩着玩着，真可能把人坑进去。

今年就出现过用户拿着 AI 生成的“预约成功”信息去餐厅，结果到了店里才发现，根本没预约。

还有人询问退机票手续费，AI 给出了错误答案，用户按照它的建议操作后产生了实际经济损失。

小忆想说的是，如果你只是和 AI 胡说八道闹着玩，那确实可以叫作抽象，无伤大雅。

但，要是 AI 已经开始影响你的钱、你的名誉、你的隐私，甚至你的现实生活呢？

这种情况肯定不能简单用一句“AI 幻觉”糊弄过去。

好消息是，现在法律开始认真回答这个问题了。

就在前不久，最高人民法院正式发布了《关于依法审理涉人工智能纠纷案件的意见》。

要知道，这是最高人民法院发布的首部涉及人工智能司法裁判规则的文件。

全文一共 5 个部分、24 条，直接把大家这两年最关心的一堆 AI 问题全给指了出来：

其中包括 AI 算法大数据杀熟、AI 换脸、AI 拟声、AI 复活、AI 训练个人信息、仿冒名人带货、AI 幻觉、自动驾驶……

可以说，AI 这几年把互联网玩出来的那些新花样，这次基本都被最高法挨个点名了。

而且，我仔细读了读全文发现，其中有些规则，真的和我们每个人都有关系，下面咱们就来挑几个重点聊聊。

“大数据杀熟”可能要终结了

这个估计是很多电友最有感触的一条。

小编之前就遇到过这种情况：同一时间，同一间酒店，朋友打开线上平台显示的 299 元一晚，而我打开一看，变成了 369 元。

同一张机票，别人 800 块，你却要 1100 块。

甚至点同一家外卖，你可能都要比朋友多掏个几块钱。

以前我们管这种现象叫 “大数据杀熟”，虽然明知道平台在套路你，但你有证据吗？

他们随便拿个“系统波动”、“新老用户优惠不同”的理由就把锅甩开了。

而 AI 来了之后，算法只会变得越来越聪明，它可以分析你的消费习惯、历史订单、设备、行为轨迹，甚至推测你到底愿意为某个东西掏多少钱。

以前算法还只是单纯的“看人下菜”，而以后AI算法把咱们研究一通后，说不定能得出结论：

“根据这位用户过去三个月的消费行为分析，他大概率还能接受涨价 7.8%。”

我去你的，这已经不是杀熟这么简单了，你说它是变着法子收割都没毛病。

所以这次《意见》明确提出：如果经营者利用算法，对同一商品或者服务在交易价格等条件上实行不合理差别待遇，并因此侵害他人合法权益造成损害，应当承担相应侵权责任。

也就是说，以后平台如果再想用AI算法搞差别定价，就必须证明这种差异化的交易条件是有正当、充分且非歧视理由的。

如果证明不了？对不起，那就是侵犯了消费者的知情权、自主选择权和公平交易权，该怎么赔就得怎么赔。

另外，以后看到一个视频，说“某明星亲自推荐XX产品！”

也先别急着下单，因为屏幕里的明星，可能根本没说过这句话。

这类“仿冒名人带货”的情况，最高法这次也专门安排上了。

如果利用 AI 仿冒名人带货，并且构成欺诈，消费者主张惩罚性赔偿的，人民法院依法予以支持。

换句话说，AI 可以整活，但不能拿别人的脸和声音去骗人。

AI 以后，不能随便冒充你了

然后是大家非常熟悉的 AI 换脸。

现在网上各种 AI 工具已经越来越离谱，你随便丢进去一张照片，录几秒声音，它就能分分钟给你“复刻”出来。

问题也就来了，要是拿你的 AI 形象和声音去干坏事儿怎么办？

央视已经先后报道过大量类似案例，他们最近还发文《接到陌生来电，先沉默三秒》，其实说的也是防止声纹被违法分子用 AI 复刻，然后诈骗身边亲友这件事。

所以，最高法这次给出了非常明确的规则。

未经本人同意，利用 AI 处理自然人的姓名、肖像等信息，生成能够识别该人的虚拟数字形象并使用、公开的，可能构成对姓名权、肖像权等人格权益的侵害。

声音也一样，未经本人同意，拿一个人的声音当训练素材，模仿他的音色、语调和发音风格，生成能够识别这个人的合成人声，也可能侵犯声音权益。

甚至有人拿 AI 生成的“你”，让它发表一些不实言论、干一些不当行为，导致你的社会评价下降，还可能涉及名誉权侵害。

还包括，利用 AI 实施“网络开盒”“人肉搜索”等行为，这次《意见》也明确了责任。

我发到网上的照片，AI 能不能拿去训练？

相信这也是现在大家比较关心的问题，明明直接分享在社交平台的自拍照，结果某天突然发现怎么跑到 AI 模型里去了？

问题来了，平台或者 AI 公司到底有没有权利拿你的照片或者个人信息去训练 AI？

关于此，最高法这次采取的是一个比较细的划分。

《意见》明确，为 AI 模型训练，在合理范围内处理个人自行公开或者其他已经合法公开的个人信息，而且个人没有明确拒绝的，一般不认定为侵害个人信息权益。

重点是合理范围，且个人未明确拒绝。

以及，如果对个人权益有重大影响的，应当依法取得个人同意。

至于道理，其实很简单，公司或平台使用公开信息训练 AI 是没法一刀切的，毕竟要是真全面禁止了，那很多模型的数据来源是会受到巨大影响。

就像这份意见里面说的，在合理范围内使用我们的公开信息训练 AI，不泄露我们个人隐私，不产生重大影响，一般问题不大，咱们也不用太过担心。

AI 一本正经地胡说八道，出了事谁负责？

这也就是我们所说的“AI幻觉”。

现在的 AI 由于太会说了，很多时候明明是错了，它也能说的跟真的一样，把用户唬得一愣一愣。

就像咱们开头提到的一些案例，像生成一个像模像样的订单号、二维码、法律条文、参考资料等。

而有些用户呢恰恰又不擅长去核实答案，所以一不小心就容易被坑甚至是造成损失。

最高法这次也专门回应了这个问题。

对于生成式 AI 自动生成的内容，如果侵害了他人的名誉权、隐私权等人格权益，在权利人通知之后，AI 服务提供者没有及时采取停止生成侵权内容等必要措施，那么服务提供者可能需要依法承担侵权责任。

这相当于是对 AI 平台上了一把锁，不能随便让 AI 一本正经的胡说八道了，出了事是要负责的。

但是，小忆要说但是了，反过来，如果是用户故意输入特定提示词，故意诱导 AI 生成侵权内容，并造成他人损害，那么用户自己肯定也要承担责任的。

主打一个自作自受！

除此之外呢，这次意见中的（十一）条，还明确了关于自动驾驶汽车、具备辅助驾驶功能汽车交通事故的赔偿责任。

具体来说，具备自动驾驶、辅助驾驶功能的车型，因车辆存在产品缺陷导致交通事故造成损害，车企要负责任。

这也算是为接下来的 L3 有条件自动驾驶时代车企责任奠定了基础。

总之也就是，以后自动驾驶出了事，车企不能再随便甩锅说司机姿势不对、注意力没集中啥的了。

结  语

聊了这么多，但话又说回来，最高法这次出台的《意见》，当然不是为了打压 AI 技术，恰恰相反，是为了让这门技术走得更远。

正如内容里面提到的，国家现在的态度很明确：我们要发展 AI，但前提是“以人为本，智能向善”。

技术是为了造福咱们普通人的，而不是用来算计我们、扒光我们的隐私、甚至变着法儿掏空我们钱包的工具。

现在的 AI，用得好，它就是温顺的绵羊，能源源不断给你制造羊毛，但要是用的不好，那它就是一条会咬人的疯狗。

如果不给它套上绳严加看管，指不定得整出什么乱子。

问题来了，大伙儿在平时生活中有没有被 AI “背刺”或者坑过的离谱经历呢？

*资料、图片来源：最高法、网络。

往期历史