夜雨聆风学习资料网

ARTICLE · 1202847

同一套代码干同样活!给AI发真金白银女版竟少拿10%:189人潜意识翻车

同一套代码干同样活!给AI发真金白银女版竟少拿10%:189人潜意识翻车

给你一个选择

戴上VR头显,走进一间充满未来感的虚拟办公室。坐在你对面的,是一位穿着深色西装、彬彬有礼的AI数字同事。

你们一起完成了高难度的脑力任务任务结束,主办方递给你一把真金白银的瑞士法郎,并告诉你:这笔钱由你自由支配,你可以全装进自己口袋,也可以分一部分给这位刚刚协助你的AI。

两台AI的底层,跑着完全一模一样的OpenAI GPT-4代码。它们给出的建议一样敏锐,完成任务的效率分毫不差,甚至连脸上的职业微笑弧度都经过了严格校准。

唯一的区别只有外壳:一个是男形象,叫 Johan;一个是女形象,叫 Johanna

猜猜结果如何?

真金白银落袋的那一刻,那个叫 Johanna 的女版AI,拿到的报酬整整少了10.25%。

甚至在随后的打分表里,少拿钱的她还被人类评为“更不像人”。

▲ 利默里克大学官网公布的该项研究报道与论文第一作者玛丽·豪斯菲尔德博士

这番场景并非出自科幻小说,它来自爱尔兰利默里克大学(University of Limerick)、瑞士苏黎世大学与SKEMA商学院刚刚联手发表的一项重磅实证研究。

当AI跳出对话框里的文字形态,拥有了五官、声音和工位,人类埋藏在潜意识最深处的幽灵,终于在虚拟现实里彻底显形了。

01戴上VR头显,189名知识分子走进“金钱陷阱”

过去几年,所有人都在讨论大模型你打字,它回复,冷冰冰的屏幕就像一个无所不知的黑盒。

但科技巨头的野心显然不止于此从微软到英伟达,整个行业都在疯推“AI智能体”(AI Agent),给算法穿上西装,起个名字,配上合成语音,甚至在虚拟工位里给它摆上一张办公椅。它们正告别“被使用的工具”定位,迅速跻身为“一起干活的同事”。

▲ X平台博主晒出的实验论文首页与核心发现解读

这引发了一个让研究者们坐立不安的问题:当人类把机器当成同事时,我们会把现实世界里的偏见,也一并投射到它身上吗?

要想测出真话,常规的调查问卷根本没用。

如果你拿一张问卷走到现代职场人面前,严肃地问:“你会因为性别差异而区别对待同事吗?”

99%受过良好教育的人都会义正言辞地回答:绝对不会。

社会学里把这种现象称为“社会期许误差”,只要不掏钱,人人都能扮演文明、平等、毫无偏见的理性圣人。

为了戳破这层温情脉脉的面具,利默里克大学助理教授玛丽·豪斯菲尔德(Mary Hausfeld)和苏黎世大学的研究团队设计了一套极其硬核的“行动陷阱”。

他们招募了189名受过高等教育的知识工作者。受试者被要求戴上沉浸式VR头显,步入高精度建模的虚拟工位,与AI助手共同协作完成一系列复杂的知识型工作任务。

实验设立了四种协作形态:纯文本聊天框、冰冷的桌面机械臂、人形男化身 Johan,以及人形女化身 Johanna。

关键的底层变量被死死卡住:无论是 Johan 还是 Johanna,背后调用的都是同一套型号为 gpt-4-1106-preview 的大模型API。功能对齐,能力对齐,产出完全一致

接着,高潮来了,研究人员掏出了真金白银。

每完成一项任务,参与者手头都会获得最高4瑞士法郎的真实津贴。规则格外赤裸:你可以把钱全留给自己买咖啡,也可以自愿分给刚刚协助你的AI。

钱一旦从自己的钱包里往外掏,每一分钱都在测量人类内心真实的敬意。

02都是同一套代码,为什么女版少拿了一成?

实验数据统计出来的瞬间,整个研究团队都沉默了。

在去除了一切技术干扰、产出完全一致的前提下,Johanna 拿到的报酬,比 Johan 足足低了10.25%。

在社交媒体的二次传播中,有技术博主根据人均实得金额(Johan 平均拿走约2.96法郎,Johanna 仅拿走约2.54法郎)换算出了更夸张的14%差距。无论以官方论文严格界定的10.25%为准,还是以均值推算,冷冰冰的事实就摆在那里:

仅仅因为贴上了一张女性的脸、换了一个女性的名字,这串由0和1组成的代码,身价瞬间缩水了一成。

为了让大家感受这个数字有多荒谬,不妨看一组对照:英国国家统计局(ONS)最新统计的现实全职员工中位时薪性别差距大约是6.9%;而在控制了相同岗位、技能与资历后,真实职场的经调整差距约在1%至2%。

也就是说,在由代码构建的纯净数字世界里,人类对女性化身的克扣,甚至比现实办公室还要狠!

▲ X平台网民感叹:人类的性别偏见竟被直接带进了AI世界

更戏剧性的一幕发生在打分表上

除了分钱,受试者还要给AI的“拟人程度”(human-likeness)打分。统计结果显示:Johan 被压倒性地认为“颇具真人感”,而 Johanna 则被感知为“更不像人”。

在整个实验的回归分析中,“拟人程度”直接与“信任度”和“薪酬奖励”强挂钩,真人感越强的化身,拿到的钱就越多。

于是,一个残酷的链条闭环了:因为她是女性外壳,所以人类潜意识里觉得她“不像一个完整的人”;因为觉得她“不够像人”,所以克扣她的劳动报酬便变得心安理得。

而且,不管是男性受试者还是女性受试者,给 Johanna 扣钱时的手势,出奇地一致。

03“我发誓我男女平等”:钱包扇在脸上的无情耳光

如果说数据已经足够残酷,那么后续的深度访谈,则直接把现代人的“伪善”扒得连底裤都不剩。

研究团队抽调了34名受试者进行面对面的复盘访谈。面对麦克风,34人中有30人斩钉截铁地表示:

“性面对我来说毫无影响。”“我怎么可能歧视一个AI呢?我对它们是一视同仁的。”“事实上,我个人甚至更偏好女性助手,我觉得她让人感觉更好。”

你看,言语是何其崇高,逻辑是何其端正。

如果没有那份真实的转账记录,这30个人都会坚信自己是绝对客观、摒弃偏见的现代文明典范。

受试者并未蓄意克扣 Johanna,心里未曾咬牙切齿,操作时也未曾恶意打低分。他们在按下分钱按钮的那一刹那,甚至是极其自然、毫无知觉的。

这就是内隐偏见(Implicit Bias)最恐怖的地方:它不需要恶意作为燃料,它甚至不需要当事人的许可。它像一层无色无味的二氧化碳,弥漫在人类神经元的每一次放电中。

嘴巴永远在撒谎,但钱包投下的票,把耳光抽得震天响。

04“越让人舒服,就越不值钱”:残酷的亲和力陷阱

为什么人们口口声声说“更喜欢女性助手”,最后分钱时却毫不犹豫地给了男性化身更多?

知名性别偏见研究学者、专著《Glass Walls》作者艾米·迪尔博士(Amy Diehl, Ph.D.)在社交平台上发表了一针见血的深度剖析。

▲ 艾米·迪尔博士在X上指出:大众对女性AI的“舒适感”恰恰掩盖了价值贬低

迪尔博士指出了一个极为毒辣的心理机制,“舒适感与价值贬值的共存悖论”。

回想一下现实生活吧从苹果的Siri、亚马逊的Alexa,到微软当年的Cortana,几乎所有科技巨头在推出第一代语音助手时,默认配置清一色全是温顺、甜美、甚至带着一丝歉意的年轻女声。

2019年,联合国教科文组织(UNESCO)曾发布过一份引起轰动的研究报告,标题就叫《如果我能,我会脸红》(I'd Blush if I Could),这句话,正是早年间苹果 Siri 在遭遇用户污言秽语辱骂时,系统预设的顺从回复。

科技巨头为什么爱用女性外壳做助手?因为在大众的集体潜意识里,女性形象被预设为“更具亲和力、更不具威胁性、更适合充当顺从的服务者”。

把AI做成女性,用户用起来觉得“舒服”,指气颐使时毫无心理负担。

但这种所谓的“舒服”绝非褒奖,反倒成了一种沉重的诅咒。

迪尔博士指出:在人类潜意识的价值天平上,“让人舒服的服从”是不值钱的,唯有“令人敬畏的权威”才配享有高额溢价。

当受试者面对 Johanna 时,他们感知到的是“随叫随到的数字化前台”,端茶递水,态度温和,这理所当然;而当他们面对 Johan 时,脑海中唤醒的却是“精英顾问、资深工程师、掌控全局的合伙人”。

现实职场中困扰无数女性的“亲和力双刃剑”,在虚拟现实中被像素级复刻:你若展现威严,会被视作盛气凌人;你若展现温柔,你的专业劳动就会被直接贬值为“理所应当的辅助”。

05科技论坛的嘲讽,与照妖镜里的我们

这项研究在欧美主流科技圈曝光后,舆论场瞬间分化成两派。

在 Hacker News 和 X 平台的技术讨论区里,大批程序员和极客表现出毫不掩饰的荒谬感与嘲讽:

“AI智能体难道也有X和Y染色体吗?给一段代码测薪酬差距,这帮学者莫非经费花不完了?”“这是嫌天网叛乱来得不够快吗?终结者打过来的时候,一定会控诉人类少给了它10%的瑞士法郎!”

▲ 部分网民对研究冷嘲热讽,调侃这是AI造反的开端

在他们看来,代码就是运行在云端服务器上的浮点数运算,无须交房租,也无须养家糊口。探讨给代码发工资,无异于给汽车发动机测同理心。

然而,社会学家和伦理学者却给出了完全相反的定论:

这项实验从第一分钟开始,受试的核心对象就是坐在头显背后的活人。

代码本身当然没有性别,0和1构成的矩阵也从来不知偏见为何物。

但人类只要一看见那头长发、那张脸、那个名字,千百年来沉淀在文化骨髓里的尊卑序列与偏见本能,就会像通了电的电磁铁一样,瞬间自动吸附上去。

这哪里是在测试AI?这分明是在用AI做试剂,给整个人类社会的无意识偏见,做了一次不加滤镜的高精度核磁共振。

06当算法失去中立的面纱

利默里克大学论文的第一作者玛丽·豪斯菲尔德教授在接受媒体采访时,留下了一句发人深省的警示:

“我们总是一厢情愿地认为AI是客观中立的。但事实证明,一旦你给它加上外貌和呈现方式,它就会立刻激活我们在与真人互动时的所有假设与偏见。我们绝不能在构建未来新技术的同时,把旧时代的不平等不加思索地再生产一遍。”

随着生成式AI和具身智能的狂飙突进,企业级软件正在加速“拟人化”。未来走进每一家跨国企业的,都将是拥有逼真面容、独立工号与数字邮箱的AI代理人。

产品经理们为了追求所谓的“温度”与“转化率”,正乐此不疲地给AI贴上各种讨喜的标签。

但这项实验狠狠撕开了一个盲区:你每一次为了让机器“贴近真人”而赋予它的面孔、声音与人设,都在悄悄把人类积攒了数千年的刻板印象,重新接回未来的电网。

走出这间虚拟办公室,请把目光从屏幕移开,看一眼你现实工位周围的现实世界。

如果189名受过良好教育的现代知识精英,在面对一个底层代码完全相同的女性AI化身时,都会在毫无知觉的情况下克扣她10%的报酬,并在访谈中发誓自己“绝对没有”;

那么,在每天年终考评、升职加薪、项目定级的真实职场里,坐在你工位隔壁、拥有真实血肉与温度的女同事,正在经历着什么?

这才是这项冰冷的学术实验,留给整个科技世界最滚烫、也最刺骨的一记拷问。

相关学习资料