乐于分享
好东西不私藏

AI时代应对 7-权利篇:不要放松知情权

AI时代应对 7-权利篇:不要放松知情权

你有没有经历过这种事——

投了一份简历,石沉大海。不是说面试没过,是连面试的机会都没有。没人打电话来说"你哪里不合适",没有一封拒信写着"我们选择了更匹配的候选人"。

就是,没了。

你甚至不确定有没有人看过你的简历。

大概率,没有。

但你有没有想过一个问题——这对谁最方便?

不是你。是招你的那家公司。

一扇没有门卫的门

十年前你去银行申请贷款,对面坐着一个信贷经理。他可能会拒绝你,但他得告诉你为什么——收入流水不够,征信有逾期,担保不足。

你可以争辩,可以补材料,至少你知道问题出在哪。

现在呢?

你在App上填完信息,点提交,等几秒钟,屏幕弹出一行字:"很抱歉,您暂时不符合申请条件。"

没有信贷经理。没有解释。没有"您可以通过以下方式改善"。

就一扇关上的门,门后面空空荡荡。

这个变化发生得太安静了。安静到大多数人根本没意识到——过去企业拒绝你,好歹要编个理由。现在四个字就够了:

系统判定。

你平时聊天用的AI是工具,你挑的,你用的,你关掉就没了。但藏在贷款、招聘、理赔流程里的AI不一样——它替你做决定,你却连它的存在都不知道。

而对企业来说,这个东西简直是完美挡箭牌。

以前拒绝一个人,要写理由,要存档,要应对投诉。现在?

"算法自动判定的,我们也看不到具体逻辑。"

一句话,你不知道谁拒绝了你,也不知道该找谁把门再打开。

那不是效率升级。那是权力转移。

它不讨厌你,它只是不认识你

说到招聘AI,有个研究结论挺让人不舒服的。

招聘算法在筛简历的时候,会倾向于选择跟它训练数据里"成功员工"相似的人。听起来合理对吧?

问题是,"相似"这个词的含义,比你想象的宽泛得多。

它可能不是在看你的能力。

它在看你像不像它见过的那些人。你的学校、你的措辞习惯、你简历的排版方式、你过往经历的叙述结构——这些东西跟你能不能干好这份工作,关系大吗?

不好说。

但算法觉得有关系。

更麻烦的地方在于,这种偏好是隐形的。它不会在招聘启事里写"我们偏好985毕业、有大厂经历、简历用Notion排版的候选人"。它什么都不写。

你被筛掉了。

你不知道为什么。

你甚至不知道筛你的不是人。

一个人类面试官带着偏见拒绝你,你至少还能感觉到那个偏见的存在——他的语气,他的表情,他多看了一眼你的学历那个瞬间。

但算法的偏见藏在概率分布里,穿着"客观"的衣服,你连怀疑的入口都找不到。

而企业呢?

乐得清净。HR不用背拒人的锅,法务不用担心被追问筛选标准。算法成了一堵墙,把候选人的疑问全挡在外面。

理由去哪了

这里把话拎清楚一点。

我不反对自动化。

贷款审批从两周缩到两分钟,招聘筛选从HR看三千份简历变成系统先过一轮——这些效率提升是实实在在的,没人想回到纯手工时代。

但效率解决的是速度问题。

它没有回答另一个问题:

当系统对你说"不"的时候,理由去哪了?

过去的流程慢,但慢的好处是,每个环节都有人。有人意味着你可以追问,可以投诉,可以找他上级。

不是说人就一定公平,但至少,责任是有地址的。

现在你被一个算法拒绝了。

你想追问。你打客服电话,客服说"系统自动判定的,我这边看不到具体原因"。你要求复核,对方说"目前不支持人工复核"。

你发现了吗?这套话术有多好用。

  • "系统判定"是挡箭牌。
  • "模型太复杂"是防弹衣。
  • "不支持人工复核"是关门声。

三句话之后,你被挡在门外,门口没有窗口,电话那头也没人能改。

决策链条从一条你能沿着往上爬的梯子,变成了一团你摸不着边的云。

而做出这个设计选择的,是人。是企业。是那些发现"让系统背锅比让员工解释成本更低"的机构。

算法不会主动吞掉你的知情、解释和申诉。

是有人借着算法的名义,把这些权利收走了。

规则在追,但还没追上

好在有些地方开始动了。

美国有监管机构明确要求,哪怕是算法参与拒绝贷款,也必须给出具体理由,不能拿"模型太复杂我们也不懂"糊弄人。

纽约也要求自动化招聘工具做偏见审计,并提前告诉候选人"我们在用算法评估你"。

欧盟的 AI 监管里,招聘、部分医疗等高风险场景,也被要求保留更清晰的信息披露和人类监督。

但说句实话,规则在追,企业在跑。

大部分普通人今天碰到的现实还是那个样子——被拒了,没理由,找不到人,也不知道该不该较真。

所以这些规则最有价值的地方,不是条款本身,是它们确认了一件事:

你被系统拒绝的时候,要求一个解释,要求找到一个能复核的人——这不是无理取闹,这是基本权利。

你不需要懂算法

聊到这你可能会想,那我是不是得去学什么机器学习才能保护自己?

不用。

你不需要知道引擎怎么工作,才有资格问"我的车为什么被召回"。你不需要理解药理学,才有资格问医生"为什么给我开这个药"。

同样的道理——你不需要懂算法,才有资格在被拒绝的时候问一句"为什么"。

但你得记住问。

因为现在大部分系统的默认设置是:不问就不说。它不会主动给你理由,不会弹窗提醒你"你有权要求人工复核"。

这个默认设置不是技术限制。

是有人选择了这么设计。

下次门关上的时候

贷款被拒。简历石沉大海。理赔驳回。入学申请没通过。

下次碰到这种事,别急着走。

问一句:

  • 这个决定是谁做的,是人还是系统?
  • 依据是什么,能不能让我看到?
  • 错了,我找谁?

问不问得到答案是一回事。

但你问了,就意味着你没有默认那扇关上的门后面,理所应当空无一人。


门后面应该有人。

哪怕关门的是算法,装门的是企业。