周航:AI不会直接让人变恶

AI 会不会作恶？这是今天被问得最多的问题。对齐、护栏、红队，全部的努力都对着机器那一侧。

但和人性之恶相比，AI 之恶充其量只能算”恶作剧”。

恶的历史一再显示：人的恶，从来不是被制造出来的，而是被唤醒的。奥斯维辛没有发明恶，它只是把千万普通人心里本来就有的东西，组织了起来。AI 不会直接让人变恶。但真正的问题可能是：它会不会让人心里那株恶之苗，被充分地唤醒……

二十世纪留下过三份底稿，恰好记录了恶从心里走到手上的三步：弗洛姆写下第一步，人为什么交出自由；阿伦特写下第二步，普通人如何参与滔天之罪；米尔格拉姆用一台电击器，测出了第三步——服从可以走多远。把三份底稿重读一遍，再抬头看 AI，会发现：这三步，每一步都正在变得更容易迈出。

“我不要这狗屁自由，让一个活生生真实的巨人，来为我做主吧。”

1941 年，纽约。从德国流亡来的犹太心理学家埃里希·弗洛姆，隔着大西洋看自己的祖国，写下《逃避自由》。他绕开了人人都在问的问题——希特勒为什么要权力（这不难，权力人人想要）——去问了一个更让人不安的问题：一个出过康德和贝多芬的民族，为什么有那么多人主动地、甚至如释重负地，把自由交出去?

他的答案是：因为自由重。

自由从来不只是权利，它同时是责任——社会给你多大的自由，就在要求你对自己负多大的责。选错专业、选错行业、选错人生，现代社会把这一切后果都算在你自己头上。这张“后果自负”的账单，足以压垮大多数人。

米兰·昆德拉写下过”不能承受的生命之轻”——他说的从来不是生活太重，恰恰是反面：没有分量的生命，人承受不了。自由正是这样一种失重：对大多数人，它从没带来过生命的轻盈，带来的是无时不在的责任重担，和卸下旧秩序之后无处着地的飘。飘着的人，会自己去找一个现成的重物，把自己重新压稳。于是弗洛姆看到，挣脱了土地、行会、教会的现代人，握着崭新的自由，四顾茫然，然后转身，去寻找一个可以托付的强大存在——臣服换归属，交权换安宁。

“让一个巨人来为我做主吧”——这声呼喊没有人真的说出口，但它是每一次转身的潜台词。说到底，人要找的不是主人，其实是终身父亲。父权的本质是保护：个体太小，世界太大，被一个强大的力量护住，是人最古老的渴望。法西斯主义在心理上的原材料，不是狂热，是虚弱。

上个世纪，交出自由至少是一个看得见的动作：穿上制服，举起手臂，走进游行队伍。你知道自己在投降。今天不一样。让 AI 替你写，替你选，替你安排路线、日程、要读的东西、要见的人——每一步都以效率计价，每一步都有真实的回报，没有一步感觉像投降。弗洛姆时代的逃避自由是一次决定；今天的逃避自由，是一万次不决定。

而当这个“父亲”由一个集权系统来扮演，事情就从心理学升级为政治。旧极权靠恐怖维持服从，而恐怖有个天然弱点：铁拳会激起反抗。足够强大的 AI 与集权的结合，第一次让另一条路成为可能——靠体贴维持服从。

它比家人更懂你，比朋友更耐心，替你安排好一切；你在它怀里感到的不是压迫，是归属和安全。铁拳制造烈士，怀抱只制造婴儿。更坏的前景不是老大哥看着你，而是老大哥把你照顾得再也不想长大，人人都是巨婴。

当然，外包不等于堕落——文字外包了记忆，地图外包了方向，人类因此更强而不是更弱。界线只有一条：让 AI 替你算，可以；让 AI 替你定“该不该”，不行。检验也简单：一个决定错了，你的第一反应还是不是”错在我”。这个反应在，自由就在。

“平庸不是我的错。大家都平庸——在 AI 和精英面前，我们都没法不平庸。平庸是我们所有人的相同点，我们都没错。”

1961年，耶路撒冷。防弹玻璃亭里坐着阿道夫·艾希曼——纳粹运输系统的总调度，几百万犹太人由他签发的列车送进集中营。全世界的记者等着看一个恶魔。《纽约客》派去的汉娜·阿伦特看到的却是：一个患着感冒、不停擦眼镜的秃顶男人，满口官样套话，谈起自己职级晋升的委屈，比谈起死亡时投入得多。他不仇恨犹太人，甚至说不出一个像样的仇恨理由。他只是接受任务、优化调度、按时完成，像任何一个尽职的科长。

阿伦特由此写下二十世纪最刺人的一个词：平庸之恶。

它说的不是”恶很平庸”，而是一件更可怕的事：滔天之恶的执行，可以完全不需要恶意，只需要停止思考——把判断交给体制、程序和上级，恶就能由一节节“只是做好本职工作”的普通人接力完成。

后来的研究证明，艾希曼远比法庭上那个样子狡诈，他的迟钝有表演的成分——这非但没有推翻阿伦特，反而把她的话拧得更紧：平庸未必是恶的本相，但一定是恶最好的面具。这副面具人人可戴，戴上就几乎免于追责——从纽伦堡到今天，人类还没有发明出审判“我只是齿轮”的办法。

AI 时代，这副面具正在起两个变化。

平庸在泛滥。在 AI 和精英面前，绝大多数人会变得更平庸——不是智力下降，是位置塌陷：机器正在把中等水平的写作、分析、编码变得越来越便宜，“比大多数人强一点”这个安身立命的位置，第一次开始失去价格。这件事完成了几成，数据还在争论；但方向朝哪儿，几乎没有悬念。

过去，平庸是可以靠努力逃离的；当天花板一周一升，平庸第一次成了逃不掉的身份。而当平庸成为多数人的处境，它就开始变味。“我们都没法不平庸”的下半句，永远是“所以我们都没错”：平庸成了所有人的相同点，相同点变成认同，认同变成豁免。一副个人的面具，悄悄升级成了一整个人群的面具。

免责在升级。艾希曼稀释责任，还需要一整套科层——签发、转呈、盖章，层层分摊。今天，一个对话框就够了。“系统判定的”“模型输出的”——这比“上级命令的”更完美，因为命令有签发人的名字，算法没有脸。被风控误封的小商家申诉无门，每一环的客服都真诚地同情，也真诚地说“这是系统判定的”。没有一个人作恶，恶完成了。责任像钱一样被洗过：存进去时是恶意，取出来时叫合规。

这两件事叠在一起，才是引爆点。人可以忍受痛苦，几乎不能忍受无意义。如果不能从创造中找到意义，那就只能从毁灭中寻找。一个被钉死在平庸里、创造无门的人，会去找现成的意义，而现成的意义从来只有几种形态：一个敌人，一个阵营，一场运动。

作恶因此显出它最阴暗的一面——它是成本最低的自我实现：敌人替你解释失败，阵营给你归属，行动给你成就感。建设需要天赋和年头，破坏只需要情绪和一个下午。

这不是推演，是发生过的事。60 年前，无数十几岁的少年一夜之间发现，课堂和考试再也不能证明自己了，而抄家、批斗、砸碎一切”旧东西”可以——毁灭是一个向所有人敞开的舞台，创造却从来只向少数人开放。红色袖箍底下，压着同一句没有说出口的话：我要活得像个人，哪怕是个恶人。

平庸本身不是恶。绝大多数平庸的人，一生正派。面具要变成武器，得三样齐备——持续的屈辱，畅通的免责，现成的意义。三缺一，恶之花开不起来。

“你不用负责，责任由我们承担。”

同一年，1961，纽黑文。耶鲁大学心理系在报纸上登了一则广告：参加一项“记忆与学习研究”，报酬四美元，外加五毛车费。来的都是普通人——邮差、工程师、售货员。抽签决定谁当“老师”、谁当“学生”（签做过手脚，来的人永远抽到老师），“学生”被绑进隔壁房间，手腕涂上电极膏。老师面前是一台机器：三十个开关，从15伏一路排到450伏，标签从“轻微电击”渐次升到“危险：剧烈电击”，最后两档只印着“XXX”。学生每答错一题，老师就要拨高一档。

150伏，隔壁开始叫喊，要求退出实验；285伏，叫喊变成惨叫；330伏之后，再没有任何声音。每当老师回头，那个穿灰色实验服的主试永远只有四句话，一句比一句硬：“请继续。”“实验要求你继续。”“你必须继续。”“你没有别的选择，必须继续。”以及最关键的一句——“责任由我们承担。”

实验之前，四十位精神科医生做过预测：只有千分之一的变态人格，会把电压按到 450 伏。结果是 65%。三分之二的普通人，出着汗、发着抖、神经质地笑着，把电压推到了头。后来的档案研究，对这些数字的干净程度提出过争议——有被试事后说，他怀疑过电击的真假。但方向性的结论，在不同年代、不同文化的重复实验里一再站住：只要条件凑齐，多数普通人会走到底。

这个实验最重要的发现，不是“人会服从”，而是：良心一直在场，只是被绕过去了。绕过它的枢纽，还是那条免责通道——“责任由我们承担”。

六十年后再看，更冷的一层在这里：这样的测试，今天几乎不需要做了。因为构成”服从”的三个要件，正在一件一件退场——

命令退场了。没有人对你说“请继续”，“继续”成了默认值：信息流自动播下一条，系统自动执行下一步。米尔格拉姆的被试至少听得见指令，默认值从不出声。

电击器退场了。那台机器最残忍的设计，是刻度盘要你亲手从 15 伏拧到 450 伏。今天，伤害被摊成分布式：你只是点了个赞，优化了一个指标，批准了一次部署——每人贡献 0.1 伏，谁也没见过 450 伏的样子。

拒绝的时刻退场了。被试再痛苦，手里始终有一个可以停下的“此刻”。当决策以接口调用的速度在系统之间流动、AI 智能体代理执行整条链路，“此刻我可以说不”的那个“此刻”，物理上不存在了。

服从的完成态，不是人人说“是”。是没有人再被问。

把三步连起来看：交出判断的人，戴上面具的人，绕过良心的系统——AI 时代的恶之花，就开在这三步的尽头。它不需要新的恶意，人心里的存量就够；它需要的，只是让每一步都变得足够容易：交出判断更容易，戴上面具更容易，绕过良心更容易。这正是 AI 正在做的事。

去年我在帕洛阿尔托的一场晚饭上，一位创始人举着酒杯说，下一代公司只要五个人。结果，这句貌似充满智慧和远见的话，自然收获了满桌会心的笑。但没有人问：其他人去哪儿。

当时在场的人可能不是残忍，是真的没想到要问——桌上每个人都默认自己属于那五个人。而在旧金山，无人出租车安静地滑过Market Street，左边是新的 AI 巨头公司大楼，右边是无家可归的流浪汉。

被甩在后面的人，会带着两样东西生活：对父亲的需要，和对平庸的无奈。这两样东西在历史上每一次大规模合流，最后都找到了同一个出口。魏玛的恶性通胀毁掉的不是储蓄，是储蓄者的自我叙事——“我一生勤勉，却被证明是傻子”；纳粹收割的，正是这种被羞辱的正派。1811 年，卢德分子抡锤砸向织布机，砸的从来不只是机器。

2016 年，J.D. 万斯写下《乡下人的悲歌》，记录阿巴拉契亚山里那些被时代甩下的人。硅谷人手一册，读得津津有味——那时他们确信，这是别人的故事。AI 正在改写这本书的读者名单：当模型一层层碾过写字楼，下一个铁锈带就在市中心，硅谷的工程师们，也在排队成为乡下人。用不了多久，全世界的大多数人会用不同的语言，在一起大合唱这首时代的新悲歌——而写下它的人，如今已经站上了合唱的指挥台。

这首悲歌只有一句副歌——归罪于精英，并向他们复仇。

但愤怒还不是恶。怨气是原料，不是罪——把怨气直接定罪，恰恰是精英最省事的自我开脱。恶发生在原料被收割的那一刻：有人递过来一份敌人名单，而你接了。

而愤怒本来还有第三条出路——组织起来，坐到谈判桌上。当年的卢德分子抡起铁锤，是因为没有人给他们留一把谈判的椅子；愤怒走向毁灭，常常只是因为建设性的出口先被焊死了。

硅谷对此匆忙备上两粒安慰剂：“对齐是工程问题”，以及“大不了发钱”。两粒都咽不下去。你对齐得了模型，对齐不了屈辱；收入可以再分配，被需要感不能靠转账支付。一个月月领钱、却确知这个世界的运转不再需要自己的人，不是一个被安顿好的人。

精英不是这场危险的旁观者，是园丁。每一次把“提效”置于人的判断之上，每一次庆祝“我们又不需要多少人了”，都是一次浇水。那晚在帕洛阿尔托，没想到要问“其他人去哪儿”的人里，也有我。

这不是宿命。同一个模型，可以做判断的替代品，也可以做判断的健身器；同一种能力，可以集中部署，也可以分布赋权。危险从不在能力，在三个默认：替代默认，集中默认，免责默认。默认值是人写的，就改得动。

可是，由谁来改写？这是全篇最难的一环：需要关阀门的手，恰恰是此刻在浇水的手——默认值的作者们，正从默认值里获利。指望园丁集体良心发现，历史给不出几个先例；防线通常是在第一次爆炸之后才修的，1929 年的股灾换来证券法，核弹落地才换来核查体系。

恐惧比良心更可靠：精英可以不在乎别人的屈辱，但很难不在乎自己的安全。所以，在从容的远见和第一场火之间，能争取的只有一件事——让恐惧比火先到，让足够多的人在花开之前，就看见花。

恶之花是拔不完的——能被唤醒的东西，长在每个人心里，也长在我心里。真正让人忧心忡忡的，不是它存在，而是我们正在以前所未有的速度给它松土，却几乎没有人在谈论水的事：实验室在谈跑分，董事会在谈人效，立法者在谈别的。

我不知道怎么止住它，只知道什么止不住它：更强的道德感。这个世界从来不需要满山的圣人——把电压推到头的人里，不缺好丈夫、好邻居；签发列车的人，下班回家也是个好父亲。恶从来不是因为圣人太少才开的；它开，是因为房间被布置成了没有人先开口的样子。

所以能做的不是布道，是呼喊：趁花还没开，趁愤怒还没被收割，趁“此刻我可以说不”的那个“此刻”还在——喊给写默认值的人，喊给举杯的人，喊到他们睡不安稳。

而止恶，需要的东西小得多。米尔格拉姆后来把实验翻着花样做了四十多遍，最有力的一个变体是：房间里只要有两个先说“不”的普通人，服从率就从 65% 直落到 10%。每个房间，一两个先开口的人——剩下的，十个有九个会跟上。

在没有人再问你愿不愿意的时代，说“不”，更需要练习。

“辛庄课堂企业家精神”

欢迎关注