在世人为AI欢呼时,恐怕有一个最严重问题摆在所有人面前

在许多人看来，以人工智能（AI）为代表的新一轮科技革命正在兴起，谁能抓住机遇，谁将在未来竞争中占据先机。不过事有两面，科技在促进社会进步的同时会带来新挑战。在AI时代，随着大量的工作被替代，那些被替代的人类怎么办？当科技进步意味着更少的人类劳动便能创造更大的成果，会否进一步加剧贫富分化问题？AI会否造成人的异化？AI会否统治人类？这都是世人在为AI欢呼时不能不深刻反思和未雨绸缪的要害问题。

本文节选自2024年出版的新书《拯救民主——扬长避短的新方案》第六章，本书是一本为美好社会理想构建政治地基的探索之作，提出以贤能民主为支柱的混合民主体系（主权在民、治权在贤、贤从民中来、一人一票民主评价）。本书第六章将人工智能的冲击视作未来人类社会面临的重大机遇和挑战。

本书认为，技术在很多时候都是中立的，端看人类怎么应对。面对AI技术飞跃揭示的未来人类社会图景，在推动技术发展的同时，未雨绸缪、以道驭术，认真思考那些将被替代的劳动力的命运，设置必要的防护栏，引入透明、可靠、经得起时间检验的安全规范和科技伦理，将决定人类会有一个什么样的未来：普遍自由或普遍弃民。

本书认为，如果在未来某一天，人工智能可以用最低成本生产出满足所有人日常需要的商品和服务，那么今天那些为生存苦苦奔波、陷入无休止内卷之中的普通人便可以获得解放，他们通过人类社会每月固定发放的基本收入就能衣食无忧，进而可以把自己的主要时间用在创造性、人文性的工作或感兴趣的事情上。但这一切有个大前提，那就是人工智能不会沦为少数人谋取私利或统治全人类的工具，而这离不开政府良治（一个既贤能又民主的政治体系）。

人工智能的冲击：普遍自由或普遍弃民

文/邓峰

来源/本文节选自新书《拯救民主——扬长避短的新方案》第六章

自从ChatGPT问世以来，人工智能（AI）的机遇和挑战变得越来越凸显。以文本生成图像领域的领跑者Midjourney为例，该公司以AI绘画而闻名，属于尚未融资的初创公司，2022年只有11名员工，一年营收却能高达1 亿美元，堪为商业奇迹。

曾经一个年营收超过1亿美元的公司，员工数量从几百到几千不等。然而在今天，一个AI领域尚未融资的初创公司，竟能用那么少的人力创造那么大的商业价值。这无疑反映了技术的进步。因为仅从技术本身来说，一项技术越节约劳动力越先进。对于人类来说，劳动、时间是至为宝贵的资源，当一项技术能节省劳动、时间，意味着把人从笨重的劳动中解放出来的可能，为人力资源的最优配置创造条件。

不过，事有两面，11名员工1亿美元营收意味着在AI领域对于人力资源的需求极其有限。过去数百、数千乃至数万人的公司，在未来有可能只需要几十人控制的机器便足矣。这预示着未来将有大批的劳动力被机器替代。对于一个社会来说，如果被机器替代的劳动力能有新的用武之地，或者至少能维持生存，才能将技术进步的益处最大化。不然的话，技术进步的积极意义会被大量失业的负面效应遮蔽。

从人类过去的几次技术革命来看，技术进步在带来一批人失业的同时，因为极大推动生产力进步，既让人从许多繁重而单调的工作中解放出来，又带来新的经济机会，从而最终整体上增加了工作岗位。以中国为例，改革开放以来的经济腾飞和技术发展让许多工作成为历史，比如农业领域的体力活，数亿人得以扎根城市。这是一次伟大进步，数以亿计的中国人改变了自古以来“面朝黄土背朝天”的命运。

但目前已经开始并在未来大概率发生技术革命的AI，将有可能与过去的技术革命不一样。过去的技术革命都是替代人类某一项劳动，而且基本不涉及智能化。但AI不一样，AI是在人类历次技术革命基础上新的技术革命，直指对人类来说至为关键的智能。过去的技术进步，不论多么绚丽，人类都能保持智能上的降维优势。但面对来势汹汹的AI，人类是否还能够保持智能优势目前尚难断言。11名员工1亿美元营收的Midjourney公司，已经向人类发出大量人力将被替代的信号。（编者注：ChatGPT、DeepSeek的兴起意味着挑战日益临近。）

未来生命研究所（Future of Life Institute）创始人之一、麻省理工学院物理系教授泰格马克（Max Erik Tegmark）在《生命3.0：人工智能时代人类的进化与重生》中写道：“如果人工智能始终保持进步的势头，将越来越多的工作自动化……许多人对就业形势十分乐观。他们认为，在一些职业被自动化的同时，另一些更好的新工作会被创造出来。毕竟，过去也发生过类似的事情……还有一些人对就业形势十分悲观。他们认为，这一次和以前不一样，空前庞大的人群不仅会失去工作，甚至会失去再就业的机会……一些职业乐观主义者认为，在体力职业和脑力职业之后，会出现一波新的职业，这就是创造力职业。但职业悲观主义者却反驳说，创造力只是另一种脑力劳动而已，因此最终也会被人工智能所掌握。”

伴随AI技术飞跃，未来那些将被替代的人，是否能有新的安身立命之处？这存在相当大的不确定性。许多事情都是“预则立，不预则废”，在AI时代终将到来之前，人类能做的应该是未雨绸缪，及早规避人工智能技术大突破所可能带来的普遍失业和弃民问题，把人类从繁重的工作中解放出来，那么，一个所有人有钱有闲的理想社会将不再遥远。正如泰格马克所言：“如果我们在用自动化促进经济繁荣发展的同时，能搞清楚如何做才不会剥夺人们的收入和生活目标，那么，我们就能创造出一个人人都可享有闲暇和空前富足的美好未来。”

因为如果在未来某一天，人工智能可以用最低成本生产出满足所有人日常需要的商品和服务，那么今天那些为生存苦苦奔波、陷入无休止内卷之中的普通人便可以获得解放，他们通过人类社会每月固定发放的基本收入就能衣食无忧，进而可以把自己的主要时间用在创造性、人文性的工作或感兴趣的事情上。但这一切有个大前提，那就是人工智能不会沦为少数人谋取私利或统治全人类的工具，而这离不开政府良治。

进一步追问，AI技术大发展会否出现智能爆炸，造成AI统治世界？在许多人看来，这似乎是不太可能会发生的一幕。毕竟，纵使未来人工智能技术高度发达，但只要没有自主意识，只要是在人类设定的程序、目标和框架下运行，那应该不至于脱离人类的掌控。但这只是一种假设，很难断言一定便是如此。泰格马克便认为，“我们现在之所以能统治地球，是因为我们比其他生命更聪明。那么，如果出现一个比我们更聪明的超级智能，那它也同样可能会推翻我们的统治”，“生命的历史说明，它总会自我组织成更复杂的层级结构，这种层级结构是由合作、竞争和控制共同塑造的。超级智能或许会促成更大宇宙尺度上的合作，但是，它最终会导致极权主义和由上而下的控制，还是会赋予个体更多权力，目前尚不清楚”。

技术在很多时候都是中立的，端看人类怎么应对。面对AI技术飞跃揭示的未来人类社会图景，在推动技术发展的同时，未雨绸缪、以道驭术，认真思考那些将被替代的劳动力的命运，设置必要的防护栏，引入透明、可靠、经得起时间检验的安全规范和科技伦理，将决定人类会有一个什么样的未来：普遍自由或普遍弃民。