夜雨聆风
本文刊登于《随笔》2025年第6期
算法能精确地记录下我的每一个言论、行为甚至每一次情感波动、每一次心跳。它比我更了解我自己。这样的算法不仅能预测每一个人的决定，还能操纵他的情感。
一
最近在一个叫“新闻早餐”的公众号看到一条“令人振奋”的消息：杭州完成首例“戒酒芯片”植入手术，某男子在植入戒酒芯片后称“看见酒如看见白水”（“新闻早餐”2025年4月1日）。
我之所以说这条新闻“令人振奋”，是因为我有嗜酒的毛病，也常有戒酒的念头。我的酒瘾虽然还没有到每喝必醉的地步，但程度不等的喝多和喝高也是常有之事。这当然不好。考虑到我有遗传的高血压、心脏病，这不但不好，而且简直玩命。然古人云“积习难改”。如果真像“新闻早餐”说的那样，植入一个芯片就可以轻松、彻底戒酒，是否应该去尝试一下呢？
如果说“戒酒芯片”关乎生理—生活习惯的控制和改变，那么另外一个同样“让人振奋”的消息则是关于心理—情感控制的。据说斯坦福大学最近进行的一个脑部实验证明：AI+脑机接口可以治疗抑郁症。“只要在大脑中种下‘幸福种子’，就可以治愈一个人的灵魂，AI时代不仅可以塑造世界的智能，而且可以彻底控制人的情感。”
这个消息同样让我怦然心动。不知道是由于天性还是别的缘故，本人不幸经常难以摆脱消极情感的纠缠，“感时花溅泪，恨别鸟惊心”的小资产阶级情调也不免有之，尽管到不了抑郁的程度，但离“天天快乐”的“美丽新世界”还隔着十万八千里。是否应该尝试一下AI+脑机接口来彻底扫除我的消极情绪，从此永远告别焦虑、压抑、感伤、忧愤之类消极情绪，永远生活在“阳光灿烂的日子”？
现代科技真是神通广大、无所不能。今天的生命科学、人工智能、数字技术，已经发展到可以通过植入芯片、改造基因、移植器官等方法彻底控制或改造人类的肤色、性别、身体感知、趣味爱好等属于人的生物或自然属性的东西，也就是原先以为“老天爷”给的、自己只能接受的东西。戒酒戒烟易如反掌，变性变种小菜一碟，就是永葆青春、长生不老、天天快乐好像也已经不是什么神话了。
二
可是，这真的是一个令人向往的“美丽新世界”吗？谁能保证它不会是AI时代升级版的法西斯主义？
由瑞典政治学家鲁道夫·契伦（Rudolf Kjellén）在二十世纪二十年代首次提出、福柯于七十年代加以发展的“生命政治”概念，指的是政治（国家）与生命（有机体）的结合，是生命的政治化或政治的生命化。政治权力介入对生命的关照和管理中而成为所谓“生命权力”。生命政治理论体现了生物学（有机体理论）和政治学（国家理论）的相互交叉融合。这里的“生命”通常不是指个体生命，而是一个国家的人口意义上的生命。福柯在《必须保卫社会》《安全、领土和人口》《生命政治的诞生》等著作中指出，十八世纪的种种迹象表明，国家开始将整个人口的生命作为管理对象，同时，医学并非是在专业层面关注人口健康，而且出于国家发展的政治需要来管理人口，这样它就成为一种管理人口（社会身体）的政治—权力技术。福柯将这种权力技术称为“生命政治”。
米歇尔·福柯，法国哲学家，主要著作有《词与物》《知识考古学》《临床医学的诞生》等
纳粹主义是现代种族主义生命政治的代表，是一种生物学化了的种族主义。纳粹改造了历史上古老的种族斗争话语，让国家权力承担起整个人口的生命责任。正如福柯指出的：“使种族主义进入国家机制的是生命权力。”（米歇尔·福柯：《必须保卫社会》，钱翰译，上海人民出版社，2010，第194页）这种种族主义的首要功能就是“在生命权力针对的生物学连续体中进行分裂，制造区分”（同上），也就是依据所谓的生物学、医学标准划分人口中的健全者和残疾者、该活者和该死者。在纳粹执政初期，这套生命政治权力主要还不是用于屠杀犹太人，而是“解决”德国国内那些所谓“不值得活”的生命，亦即通过“强制绝育”“安乐死”等方式加速那些被认为是民族和国家“累赘”（身体或精神方面）的残障者的死亡，并将这种屠杀行为称为“解脱”“悲悯死亡”“死亡协助”，是“净化国民”的千秋伟业。据格茨·海达·阿利的《累赘：第三帝国的国民净化》介绍：一九三九至一九四五年间，约二十万患有残疾及精神疾病的德国人（被称为“无用的吃白食者”“空洞的人体躯壳”）成了强制安乐死的牺牲品，平均年龄是四十五岁（参见格茨·海达·阿利：《累赘：第三帝国的国民净化》，励洁丹译，光明日报出版社，2017）。罗伯特·杰伊的《纳粹医生》则告诉我们：纳粹集中营中负责挑选哪些犹太人应该直接送到毒气室、哪些应该先强制劳动的“生死队伍的筛选者”，很多是热爱科学的专业医生，也是“各种残忍的人体实验的主导者”，是“调配杀人毒气的技术人员”（参见罗伯特·杰伊·利夫顿：《纳粹医生》，王毅、刘伟译，江苏凤凰文艺出版社，2016）。他们认为，无论是德国人内部的残障者还是犹太人都是人类的渣滓、病毒、细菌，只有清除他们才能优化人类生命。在国家卫生看来，这不是歧视，这是科学，是国家卫生学。这就难怪纳粹宣传部长戈培尔本人就是卓有成就的医学家和生物学家，而党卫军头目希姆莱更是扬言：“国家社会主义不过是应用生物学。”
从生命政治角度看，纳粹极权主义不但致力于摧毁旧世界，创建新世界，而且特别热衷于摧毁旧人，创造新人。正如阿伦特说的，极权主义意识形态的最终目标不是改造外部世界，或是社会的革命性变革，而是改造人性本身。“改造人”无非两个方面，一是身体/肉体改造，一是精神/思想改造。清除旧生命，创建新生命，这无疑是比创建新国家、新社会更彻底的乌托邦计划。
思想改造（所谓“灵魂深处闹革命”）的实践古已有之，包括改造人的世界观、政治信念、效忠对象、情感体验等。但自古以来的思想改造基本停留在语言和意识层次，主要表现为思想灌输和宣传教育，而没有深入物理的、生物的、身体的层次，其手段不外乎胡萝卜（诱之以利益）加大棒（胁之以暴力）。这种思想改造的效果到底如何，本人一直心存疑虑，因为人是会说谎的动物，谁能保证那些嘴上说“希特勒万岁”的人心里是不是在诅咒希特勒早死呢？
再比如，“文革”期间有一个荒唐的说法：树立了“无产阶级世界观”的人，应该觉得牛粪是香的，玫瑰花却是臭的。如果一个人说牛粪是臭的，那么他的思想和世界观就没有改造好，他还没有摆脱资产阶级趣味。那么，一个人嘴上说“牛粪香”，他就真的改造好了吗？不见得。他很可能在说假话，在生理的层次上他还带着资产阶级的嗅觉，牛粪在他那里闻着还是臭的，只是他不敢说臭罢了。一个人世界观彻底改造好的标志，不是他在意识层次、理性层次认识到了牛粪是香的，而是他的鼻子、他的嗅觉告诉他牛粪就是香的（而玫瑰花则是臭的）。正因为这样，思想改造是一个长期的、艰苦的甚至是不可能完成的过程。苏联作家阿·托尔斯泰在他的《苦难的历程》第二部《一九一八年》的“题记”中写道：知识分子思想改造要“在清水里泡三次，在血水里浴三次，在碱水里煮三次”。
阿·托尔斯泰，苏联作家，代表作有《苦难的历程》《彼得大帝》等
现在情况不同了。有了高科技手段，我们只要在一个人身上植入一个芯片或注射一种药物，就可以彻底改造其生物学、生理学属性，包括他的嗅觉或其他感觉（更不要说他的思想、观念、立场了）。这样，牛粪闻起来它确实就是香的。这才是思想改造的最高境界：彻底改变一个人的生理构造、生物特征和身体感觉，也就是把思想—精神的改造落实到生物—身体—生理的层次，夯实其物质基础（没有物质基础的思想总让人觉得不稳固）。
可见，芯片植入等高科技手段把思想改造真正推进到了生命政治的层次。福柯曾把生命政治的特点界定为：人类的生物特征进入了政治考虑之中，进入了政治战略、政治权力的内部。通过生物学方法（一种非思想的方法）达到思想改造的目的，是AI时代的生命政治，也是AI时代升级版的法西斯主义。如果想让一个人服从某种意识形态、某种主义，或者服从某个统治者的绝对统治，对他保持绝对忠诚，不必进行思想教育，也不再需要暴力威胁，只要植入小到完全看不见的芯片即可。
三
其实，我们今天面临的这种情形，赫胥黎在其出版于一九三二年的《美丽新世界》中就已经做出了惊人的预言。
奥尔德斯·赫胥黎著《美丽新世界》，上海译文出版社，2017年
这篇著名的政治讽喻小说（同时也是反乌托邦小说、科幻小说）描写了未来世界中一种令人毛骨悚然的生命政治景象。在作品刻画的那个二五三二年的未来世界，科学技术高度发达，物质生活十分丰富，人们衣食无忧，安于现状，心满意足，各种欲望均可随时随地得到免费满足，享受着“阳光灿烂的日子”。然而可怕的是：这里的一切都被规范化、标准化、统一化，不允许任何人有自己个人化的性格、情绪、思想观念和道德伦理，人与人之间根本不存在真实的情感。这里没有家庭，也没有建立在爱情基础上的性，甚至不允许有自己喜欢和选择的性伙伴，所有性伙伴都是随机分配的。
特别值得注意的是：这样一个秩序井然的“美丽新世界”是通过生物技术等高科技手段打造的。比如，在美丽新世界，婴儿完全由试管孕育，在实验室中培养，不需要生育，他们在胚胎孵化阶段即被通过生物手段设定为五个严格的社会等级：“阿尔法（α）”“贝塔（β）”“伽马（γ）”“德尔塔（δ）”“厄普西隆（ε）”。这是类似五个“种姓”一样无法改变的社会阶层。阿尔法和贝塔是最高级，将来培养成为领袖或大人物，领导和控制其他阶层；伽马是普通阶层，相当于平民；德尔塔和厄普西隆最低贱，智力低下，只能做简单体力劳动。那些低级的受精卵在发育成为胚胎之前，就会被一种叫“波坎诺夫斯基程序”的方法进行尽可能大规模的复制，并且经过一系列残酷的“竞争”之后才能存活下来。同样地，通过科学手段赋予每个不同等级以固定不变的习惯和爱好。低级的阶层不能有高级的爱好。例如书中写道这样的细节：以电极惩罚接触花朵（比喻美）的德尔塔、厄普西隆的婴儿以摧毁其审美能力，因为他们被认为不配享有这种能力。这是一种暴力和高科技结合的“教育”（洗脑）方式。更残忍的是，通过人工方式让最低级的厄普西隆长期处于脑缺氧状态，从而将其变成痴呆，终身安于低级体力劳动。
再比如：在美丽新世界，不但人一出生就被设定身份等级、行为反应，而且管理人员用试管培植、条件反射、催眠、睡眠疗法、巴甫洛夫条件反射等“科学”方法，严格控制各姓人类的喜好，让他们心甘情愿、无比快乐地去执行自己的被终生设定的生活方式、消费模式、社会种姓、职业岗位乃至习惯趣味，永远不被“负面/消极”情绪所困扰。人的情绪还可以通过一种叫作“唆麻”的药物致幻剂控制：在烦恼、痛苦、焦虑即将袭来时及时吞下一片即可无比快乐。一切情绪问题用“唆麻”解决。
总之，在美丽新世界，思想教育已经告别传统的灌输或暴力威胁，而代之以生命技术。我之所以将这种令人震惊的极权统治景象称为“生命政治”，是因为这里的统治，包括对于人的私人生活、思想、精神、情感、趣味的控制，都是通过生物学方法、医学方法达到的。这才是地地道道的生命政治——生命的政治化和政治的生命化。通过语言进行的思想教育或其他传统社会使用的规训手段，在这里没有用武之地或者说失去了用武之地。
四
尤瓦尔·赫拉利在其出版于二〇二四年的新著《智人之上》中提出了“极权主义网络”的概念，指出：“不论在哪里生活，我们都可能被一张看不透的算法大网束缚，控制着我们的生活，重塑着我们的政治与文化，甚至是去改造我们的身体与思想，但人类却再也无法理解这些控制着我们的力量，更别说加以阻止了。如果二十一世纪真会有某个极权主义网络成功征服世界，其背后的掌控者可能并不是人类的独裁者，而是某种非人类智慧。有些人以为，如果人类将会迎来极权主义噩梦，主要来源应该是俄罗斯或后民主时代的美国等国，但这是对极权主义威胁的一种误解。事实上，不管是俄罗斯人，美国人还是其他人，真正面对的可能是由非人类智慧引发的极权威胁。”（赫拉利：《智人之上》，林俊宏译，中信出版社，2024，“序言”第xv页）
尤瓦尔·赫拉利著《智人之上》，中信出版社，2024年
在他最近的演讲《为什么法西斯主义如此诱人？》中，赫拉利再次警告：法西斯主义和独裁统治可能会卷土重来。但它们会以新的面貌出现，而这个新面目就是“更紧密地结合二十一世纪的新技术现实”，如数字技术和生命科学技术，特别是两者的结合。
赫拉利的警告振聋发聩，但所谓“非人类智慧引发的极权威胁”说到底仍然是人的威胁而不是技术的威胁，而且人工智能等“非人类智慧”毕竟是人发明的，到现在为止也仍然受人的控制。因此，赫拉利所说的网络极权主义或数字极权主义噩梦，并不是单纯的技术极权或数字极权，而是技术极权与政治极权的联姻或技术赋能的极权主义，它对人的控制是全方位的：从政治到文化、从身体到精神。赫拉利指出：数据正在取代土地、机器，成为当今世界最重要的资源，政治变成了控制数据流的斗争。今天的独裁意味着大量数据集中在少数权力集团手中。“自由民主目前面临的最大危险是，信息技术革命可能使独裁体制比民主体制更有效率。”本来，将所有信息集中在自己手中一直是独裁政权难以克服的主要困难，但在今天，集中信息不但不再困难，而且可能会变成独裁政权的最大优势。“假设有人想知道你的政治观点，你的智能手机会知道你看的是哪些新闻频道，也会记录你每天平均看四十分钟福克斯新闻台，只看四十秒的美国有线电视新闻网。”（《智人之上》，第206页）算法能精确地记录下我的每一个言论、行为甚至每一次情感波动、每一次心跳。它比我更了解我自己。一旦有了这样的算法，一个外部权力系统，比如政府、大企业，不仅能预测每一个人的决定，还能操纵他的情感。一个独裁者可能无法为我们提供优质的公共服务，却能让我们无限爱他，无限恨他的对手。“皮下监控或许最终能充分发挥作用。到那时候，假设生物特征识别传感器能够记录几百万人在智能手机上观看特定新闻时的特定心率与大脑活动，那么计算机网络能掌握的绝对不再只是我们大致的政治立场，而是能够精确掌握是什么让每个人感到愤怒、恐惧或欢愉。然后计算机网络将能预测并操纵我们的感受，让我们心甘情愿接受它想推荐的东西——可能是某种产品，可能是某位政客，也可能是某场战争。”（《智人之上》，第206页）如果政府（或某家企业）能够比我更加了解我自己，而且还能在微观上管理我的一切行为和思想，就等于是对社会有了精细到每个细胞的掌控。
在赫拉利看来：在这种连每一个人的情绪、感受都可以控制的时代，民主可能很难存活。因为在这种情况下，自由民主的敌人侵入的不是我们的邮箱或银行账户，而是我们的情感。他们利用我们的恐惧、仇恨和傲慢，然后用这些情感来分裂我们，从内部摧毁民主。
这其实是从硅谷开始的一种方法，最初是为了推销产品。但现在，民主的敌人用同样的方法向我们推销恐惧、仇恨和傲慢。他们无法凭空制造这些情感，所以他们得先了解我们的弱点，然后利用这些弱点来对付我们。
那么，在今天，我们能做些什么来阻止法西斯主义的回归和新独裁的出现？赫拉利不是一个简单的乐观主义者，但也不是一个绝对的悲观主义者。他依然对民主抱有希望，拒绝宿命论和不作为：“然而我们不能光是因为计算机有能力创造出全面监控制度，就认为这种制度已经不可避免。科技的发展很少是绝对不可避免的。”（《智人之上》，第269页）到了二十一世纪，飞速发展的数字技术确实有可能做到持续监控所有国民，但这并不代表国家别无选择。赫拉利指出：对于这种新监控技术，“民主国家可以有节制地运用，以不侵犯公民隐私和自主权的方式，为公民提供更好的医疗保险与安全保障”。（同上）
