乐于分享
好东西不私藏

别只骂大厂,这部AI法改的是你手机里的权利

别只骂大厂,这部AI法改的是你手机里的权利

引言

AI 立法刷屏了。热搜上全在吵科技大厂的估值、会不会被卡脖子、股价跌了多少。
但你手机里那几个看似不起眼的权利,正在被悄悄改写。
这部 AI 法,改的不是几家公司的账本——是你作为普通人,面对算法时到底还剩多少“要说法”的资格。
据一家智库测算,一个普通城市用户,一天之内会被自动化决策悄悄影响几十次:刷到什么内容、能不能借到钱、保险给你报什么价。绝大多数,你毫无察觉。
前阵子有个真实的事:一位网友申请网贷被秒拒,想问原因,客服循环回复“综合评估未通过”,投诉无门。这类沉默的判决,每天都在发生。今天用三条具体的权利,把这事拆开。

一、被收紧的知情同意:你有权知道“为什么被拒”

先说一个最常见的场景。
你申请网贷,秒拒。你投简历,石沉大海。你买保险,被拒保。
过去,这些决定由算法几毫秒内做出,你连“为什么”都问不到。
定义一句话:当系统用自动化决策影响你(拒贷、拒保、拒录),它必须明示大致逻辑,你有权知道理由,并有权拒绝“只由机器说了算”。
法条落地:我们《个人信息保护法》第 24 条就规定,自动化决策要保证透明和公正,个人有权拒绝仅通过自动化决策作出的决定。欧盟的 GDPR 第 22 条也是同一逻辑——你不能在被“机器悄悄判了”之后,连个申诉入口都找不到。
生活场景:以前网贷 App 拒你,弹窗只有“综合评估未通过”六个字。现在,它至少得给你一个说得过去的理由框架,你也能申请人工复核。
对抗策略:下次被自动拒批,别默认“我资质不行”。先问一句:这个决定是纯机器做的吗?我有权看理由吗?——大多数时候,这一问就能逼出原本藏起来的解释通道。
延伸一点:不只是金融。招聘筛简历、保险给你定价、甚至外卖平台决定你的配送优先级,背后都是自动化决策。你每天被机器静默地判很多次,大多数你根本不知道。
横向看:欧盟要求高风险 AI 系统主动披露“何时由 AI 决策”,违者可罚全球营业额的 4%;我们的规则方向一致,落地细节还在磨。普通人的权利,最终取决于这些细节怎么写。
行业现状:即便在新法框架下,仍有大量 App 用“风险评估”四个字搪塞,不给出可理解的理由清单——法律给了你权利,但兑现要靠你主动去要。

二、被架空的删除权:你的脸,可能早进了别人的模型

再说一个更扎心的。
你发过一张自拍、一段语音、一段视频到网上。后来你删了。
但你的脸,可能已经被拿去训练了某个换脸模型。
定义一句话:“被遗忘权”——你有权要求删掉关于你的个人数据。但在 AI 时代,这条权利正被技术本身架空。
为什么难:机器学习的脾气很怪。它不是把数据“存”在抽屉里,而是把数据的特征“揉”进了几亿个参数里。你删掉原始照片,模型已经从那张脸“学”到的东西,抹不掉。一个大模型训练用到的图文数据,常以十亿计——你的某张照片,可能只是其中一帧。
生活场景:你要求平台删帖,平台点了删除。可三个月后,一个深度伪造视频里出现了你的轮廓。你说“我删过啊”,但训练时那一帧早被吸收了。更隐蔽的是,你的脸被转成一串“向量”后,永久活在某个向量库里。
执行痛点:欧盟的“被遗忘权”实践了好几年,搜索引擎能被裁定删除特定链接,但模型参数层那部分,谁也删不掉。技术跑在了法律执行能力的前面。
对抗策略:别等事后删。事前看清楚 App 的“用户协议”里,有没有把你的内容授权用于模型训练——这一条,正在成为新法的重点监管项。法律要求训练数据有合法来源,但执行上,你很难证明“我的脸在里面”。

三、新增的解释权:权利给你了,代价也给你了

这一条最容易被误读。
新法说,你有权要求 AI 给你解释“为什么这么判”。听起来很爽。
但代价在括号里。
定义一句话:解释权,是你向算法“要说法”的法律依据。但它只给你资格,不替你承担成本。
残酷的现实:举证责任在你。你要证明“算法歧视了我”,得先拿到模型逻辑、拿到对比数据、证明别人被区别对待——而这些,平台不给你。曾有招聘 AI 被诉性别偏见,原告耗了近两年才拿到部分逻辑,最后还是靠监管介入。
生活场景:你被 AI 简历筛选淘汰,怀疑是年龄偏见。你有权质疑。但你得自己找证据、自己投诉、自己等结果。很多人走到一半就放弃了。
最低成本动作:普通人不必懂模型。发现被自动决策影响,先向平台要一份“决策摘要”——很多平台怕监管,真会给你。这一步,比事后打官司便宜得多。
为什么普通人该关心:过去我们觉得“算法权利”是极客的事。但当你贷款被拒、简历石沉大海、保险溢价,你已经是当事人。法律把权利写给你,是第一步;你愿不愿意伸手去拿,是第二步。多数人连第一步发生了都不知道。
对抗策略:保留每一次被自动决策的记录(截图、通知);发现不公,直接向监管部门或消协投诉,别只跟客服扯皮。集体投诉的威慑力,远大于你一个人。

本期小结

权利立法前立法后知情同意被算法拒了,理由是个黑箱必须明示逻辑,你有权拒绝纯机器决定删除权删帖即以为删干净理论上可删,但模型已“吸收”数据,执行有空窗解释权几乎没有“要说法”的入口有法律依据,但举证与执行成本在你

本周挑战

打开你最常用的两个 App,翻一遍“隐私 / 自动化决策”条款,看看它们有没有写清楚机器怎么决定你的事。