ARTICLE · 1244429
AI 风控也会冤枉人:它凭什么拒你,又凭什么说不清?
白话AI金融 · 第26篇
刷卡被拒，打客服，对方说「系统判定存在风险」。你问具体哪里有问题，答不上来。这篇讲这种情况为什么发生，以及你能做什么。
01一个说不清理由的门卫
设想一个场景。你去办事，门口有人拦下你，说「你不能进」。
你问为什么。他说「规定」。你再问哪条规定，他摇头。
这种感觉，很多人在被拒付、被降额、被拒贷的时候都碰到过。
麻烦在于，这事发生的时候你不在现场。没有门卫，没有对话，只有一条短信。
02它为什么真的说不清
有两个原因，得分开看。
第一个是真说不清。多层网络的判断是几千个输入一起算出来的，中间经过很多层变换，没有一个「因为某某所以拒绝」的句子可以摘出来。
第二个是懒得说。有些系统其实是规则堆出来的，规则本身写得清楚，但条数太多、年代太久，没人整理过一份能对外解释的版本。
前一种叫技术上的黑箱，后一种叫管理上的黑箱。后者更常见，也更好解决。
图1 ｜ 两种黑箱，不是一回事
03冤枉一般发生在三种情形
第一种是身份错。你和别人共用过一台设备、一个手机号、一个收货地址，系统把你们连在一起。对方出了问题，你被牵连。
第二种是行为突变。一个人第一次用网银转一笔大额，或者突然在国外登录，系统看到的是「这不像你」。
第三种最麻烦，是群体偏差。如果历史上某个地区、某个职业的违约率偏高，模型会把这个群体整体往后排。
第三种不是模型算错了，是它学得太像历史了。而历史本身带着偏见。
04为什么行为突变会被误伤
模型学的是「正常的你」。你的每一笔交易都在给它提供样本。
所以第一次做某件事的人，天然更容易被拦。第一次跨境汇款、第一次大额取现、第一次在陌生城市刷卡。
有意思的是，这类误伤会随着次数增加而减少。做过几次之后，你就变成了它的「正常」。
代价是：每个「第一次」都得自己扛过去。
换个说法
这像一个只认熟客的看门人。你换了身衣服、理了发，他一时没认出来，就把你拦在门外。他不是对你有意见，他只是不认得现在的你。
图2 ｜ 拒付之后，路怎么走
05法规上，这件事是有说法的
欧盟的 AI 法案把用于信用评估的系统列进了高风险类别，要求这类系统具备可解释性、接受人工监督、保留记录。
国内《个人信息保护法》第二十四条写得更直接：用个人信息做自动化决策，要保证透明和结果公平；对个人权益有重大影响的决定，个人有权要求说明，也有权拒绝只由机器做决定。
征信这一块还有专门的规定。认为报告里的信息有错或有遗漏，可以向征信机构或信息提供者提异议，对方要在 20 天内核查处理。
这些条款的意思是：机器可以参与判断，但你不能被一个不解释的机器堵死。
06现实里，路是这么走的
先找机构。客服解决不了就要求转人工复审，明确提出「我要求说明拒绝理由」。
再留证据。截图、录音、工单号，都留着。不是为了吵架，是为了让下一次沟通能接上。
接着查报告。如果涉及征信，去央行征信中心拉一份自己的报告，看有没有错误记录、有没有不是你办的卡。
实在不行提异议。报告有错就走异议流程，20 天内要有回复。
这几步未必都能解决问题，但比反复打客服电话有用。
07一个不太好听的事实
风控的目标从来都是「整体损失最小」，不是「对每个人公平」。
这两个目标在多数时候一致，在少数时候冲突。冲突的时候，被牺牲的往往是样本少的那部分人。
这不是技术问题，是取舍问题。谁来定这个取舍，是监管和机构的事。
你能做的，是知道自己在被怎么判断，以及在觉得不对的时候，知道有哪几条路可以走。
08一句话记住今天
模型说不清理由，一半是技术，一半是管理。冤枉通常发生在三种情形：身份被连坐、行为突然变化、群体本身就带着历史偏见。法规给了你要说明、要人工复审、要提异议的权利，但这些权利得你自己去用。
一句话总结
真黑箱是模型算不出理由，假黑箱是规则太多没人整理，后者更常见。
三种冤枉：身份被连坐、行为突变、群体偏差。第三种是学得太像历史。
第一次做某件事的人最容易被拦，做过几次就变成「正常」了。
《个人信息保护法》第二十四条给了要说明、拒绝纯机器决策的权利。
征信报告可查可异议，20 天内要有回复。权利得自己去用。
本文讲的是机制，不针对任何一家机构。每个人每年可以免费查两次自己的信用报告，路径是央行征信中心的官网或 App。真碰上说不清的拒绝，要求人工复审是正当权利。
— END —
上一篇回顾 · 白话AI金融 第25篇
银行怎么用 AI 决定「借不借钱」给你？
几十秒里跑四道判断，模型给的是概率，不是判决书。
白话AI金融 ｜ 用人话讲清AI技术 ｜ 每篇配一张原创图解本文是系列第26篇，建议从第1篇开始按顺序阅读
关注我，把最难的大模型讲成人人都能听懂的白话。看不懂算我输。
