AI站在了终点线之后,然后呢?

10月6日，OpenAI 一口气公开了 722 份数学手稿，宣布解决了包含“准黎曼猜想”在内的数百个数学问题。

截止到我写这篇文章的时候，知乎上的相关问题下面已经有了将近九百条回答，其中挤进来了不少真正在做数学的人——正是他们的回答让我决心思考、动笔写出文章标题的那个问题和我自己的思考。

这是我第一次很具体地意识到，「AI会改变科学研究」这句话到底意味着什么。

以前大家多少还能够保持乐观：AI可以帮我们读文献、写代码、做统计，有时候也许还能提供一点灵感。无非是工具越来越好，就像前人们经历过的那样——计算机、搜索引擎和统计工具不断进化，人类则借助这些工具，做以前做不到的事情。

但是，这和一个人的研究做着做着，某天醒来发现AI大人已经站在终点线之后等他了的感觉，完全不同。

这些研究者是失败者吗？

我尤其在意那个讨论Ricci flow的研究者。他甚至已经找到了正确的方向。假如没有这批突然出现的AI手稿，也许再过几个月，再过一年，他真的能沿着那条路走下去。他也许会困惑、尝试、失败、重来，然后在某个下午突然把最后一步想明白。那可能会成为他学术生涯里值得记住的一天，也可能让他有机会以自己的名字，在数学发展的历史中留下一点痕迹。

可是现在，至少就他所讨论的那条研究路径而言，AI可能已经先他一步走到了那里。

在马拉松比赛里，AI正骑着小电驴一骑绝尘而去。

我忽然想到《三体》里的智子。这个比喻其实不怎么准确，因为智子要把基础科学锁死，在人类和真理之间隔开一道帘子；现在发生的事情恰好相反：真理和知识的幕墙正在疯狂地向前奔涌，人类打了鸡血也很难赶上它的速度。

文明在进步，人却可能被「文明」甩在后面。

当然，说这种话可能显得有些矫情。数学定理不会因为被AI证明就失去意义，正确的知识也不会因为发现它的不是人类就变得不正确。假如那些结果最终经得起检验，人类积累的知识确实增加了，数学也确实向前发展了。我们有什么理由不为此高兴呢？

道理是这样，但我们从小听过太多关于「人类为什么特殊」的故事了。

机器比我们力气大，没有关系，因为人会思考；计算机算得比我们快，也没有关系，因为人有创造力。后来，由算法构造的AI能够写文章、作画，我们又会说，真正重要的是理解，是灵感，或者其他玄之又玄的东西。

我现在越来越怀疑，这种寻找「最后一道防线」的方式本身就有问题。

它像一场不断后退的守城战。每当机器进入一块原来被认为属于人的领地，我们就宣布真正的人性其实在更深入的地方。计算输了，我们退到语言；语言受到冲击，我们退到创造；创造开始动摇，我们又退到意识、情感或者某种暂时还叫不出名字的东西。

还有退路吗？

我不知道。但更麻烦的是，如果人的价值真的需要靠「还有一样东西机器永远做不到」来维持，那么我们其实把人的尊严押在了一项关于未来技术能力的预测上。只要预测失败一次，人就得再往后退一步。

图灵在1950年讨论机器智能时已经碰到过类似的问题。他注意到，有一种反对机器思考的理由其实很接近逃避：这个结果太可怕，所以我们宁愿相信它不可能发生。尤其对于一种长期把思考视为自身优越性依据的生物来说，机器也能思考这件事，实在太难接受。

当然，这不等于今天的AI已经拥有和人类一样的「心灵」。意识究竟是什么，机器有没有主观体验，模型是否真正「理解」自己的答案，这些仍然是需要认真研究的问题。

但有些变化已经发生了。

AI已经能够提出足以引发数学界广泛关注的原创性证明思路，甚至让一些研究者开始重新考虑自己正在做的课题。以前很容易说，AI只是拼接，人类才会创造；可当机器真的给出一条此前无人走过的证明路线，我们至少需要重新思考，创造究竟意味着什么。

我们当然可以继续研究机器的创造与人的创造有什么不同，但不能仅仅因为创造者是机器，就事先规定它不算创造。

而且我渐渐觉得，也许人根本不需要靠独占创造力、独占智力，才能成为「人」。

这个道理放在人和人之间，其实很普通。

我不会因为一个朋友不会数学，就觉得他的痛苦比陶哲轩的痛苦廉价；不会因为世界上存在一个天才，就觉得其他人活得没有意义。一个人即使没有发表过论文，没有创作过艺术作品，也没有为人类文明作出什么可以被历史记住的贡献，我们通常也不会认为她因此失去了被尊重的资格。

再进一步，一个因为疾病而失去工作能力的人，一个从未接受过良好教育的人，一个甚至无法独立生活的人，他们的生命就比杰出科学家的生命更加低贱吗？

我想，绝大多数人都不会同意。

但奇怪的是，一旦比较对象变成机器，我们就很容易开始极端优绩主义化、功利化，甚至是社达化。我们开始担心，人类如果不再拥有最强大的智能，就不再有书写自己历史的资格；如果不能继续推动文明前进，就会变成文明的累赘。

为什么呢？

我们长期以来，把人的能力、人的成就和人的价值混在了一起。

我们不否认人与人之间真实存在的能力差异，更不意味着我们要支持机械的绝对平均主义。

平等究竟意味着什么？

一个在数学领域作出重大突破的研究者，当然可以比一个从未学过高等数学的人获得更高的学术评价。我们完全可以赞美天才，可以承认一个人的卓越成就，也可以根据专业能力决定谁更适合承担某项研究任务。

在另一种场景里呢？

一个诺贝尔奖得主和一个普通农民患上同一种疾病，在病情、治疗获益和其他医学相关条件都相同的情况下，前者应该因为科学成就更高而获得治疗优先权吗？

我认为不应该。

医疗资源和一个人维持基本生活所需要的物质条件，不能简单地按照她能够创造多少经济价值来决定。

所以人的基本尊严不需要靠能力挣来，但在具体领域内，能力和成就仍然可以成为评价与分配的正当依据。

真正需要警惕的，是我们把这种依据无限扩大了。

一个人因为能力突出，所以更适合承担某项工作，这很容易理解；但如果我们因此认为，她比普通人更有资格享受基本权利、更有资格决定其他人的命运，甚至认为那些没有特殊才能的人应该为自己的贫困和不幸感到羞耻，事情就完全不同了。

说到这里，我想起迈克尔·桑德尔在《精英的傲慢》中对优绩主义的批评。

在一种理想化的能力社会里，每个人似乎都能凭借自己的天赋和努力获得相应的回报。它听起来非常公平：优秀的人获得奖励，不够优秀的人承担失败的后果，不再有什么世袭贵族或者天生的特权。

可问题在于，当我们把成功完全解释为个人能力和努力的结果时，失败也就很容易被理解成个人的责任。

成功者不仅拥有更多资源，还可能相信自己在道德上更加值得拥有这些资源；失败者则不仅失去了竞争，还被要求承认自己不够优秀，仿佛他们的处境完全是自己造成的。

但一个人的能力又有多少真正是他自己挣来的呢？

先天禀赋、家庭环境、教育条件、所处的时代，以及社会恰好需要什么样的才能，都不是一个人能够完全自主决定的。

罗尔斯在讨论分配正义时，同样重视这个问题。

一个人的天赋，并不能仅仅因为属于他，就自动成为他有权获得更多社会利益的全部理由。社会当然可以为了鼓励创造、提高效率而允许某些收入和地位差异，但这些差异是否正当，还需要看它们产生于怎样的制度，机会是否公平，以及它们如何影响社会中处境最不利的人。

我觉得，这里真正重要的，是我们必须把「一个人能够创造多少价值」和「他有资格获得怎样的生活」区分开来。

前者可以有巨大的差异，后者却不能完全由前者决定。

这也是为什么，我越来越觉得「人人平等」并不是一句没有什么实际内容的道德口号。

它至少意味着，一个人无需证明自己足够聪明、足够优秀、足够有用，才有资格作为社会的一员受到尊重。她可以在专业竞争中失败，可以不被某个研究机构录用，可以在很多事情上不如别人，但这些失败不应使她失去基本权利和有尊严地生活的条件。

人人平等，不是说所有人拥有相同的能力，也不只是说法律在纸面上给予每个人相同的资格，而是说社会应当努力使人们能够作为平等者共同生活。

而这种平等，不能完全脱离现实中的资源和机会等等。

现在，我们终于可以重新回到AI的问题了。

也许有人会说，我们完全可以承认人类未必永远是最聪明、最有创造力的存在，这并不会自动消解人的价值。我们没有必要赢下每一场和机器的比赛，才能证明自己有资格留在历史的舞台上。

至少在伦理学上，这个回答确实很有道理。

可是，在现实生活里，一个人的职业、收入、社会声望、教育机会，乃至参与公共生活的实际能力，又往往和她掌握了什么能力紧密联系。有些职业之所以被高看一眼，也是因为胜任这些工作需要的能力过去很难获得，社会不得不依赖掌握它们的人。

AI一旦让其中一部分能力变得廉价、易得，这种变化就会迅速影响到社会本身。

一个人不会因为机器更聪明就失去尊严，可她花十年训练出来的能力，可能不再像过去那样稀缺；而职业收入和专业认可度，恰恰会随着这种稀缺性的变化而变化。

这并不意味着过去的专业训练完全失去了意义，也不意味着所有认知劳动都会立即被替代。但我们不能忽视，当社会评价和资源分配长期依赖某些能力的稀缺性时，这种稀缺性一旦被技术改变，许多人的生活也会随之发生变化。

于是矛盾就出现了。

我们一边告诉人「你的尊严不由生产能力决定」，一边又让越来越多的生活机会依赖他在市场上能够交换到多少收入；我们在伦理学上承认人人平等，却没有充分保证那些失去经济竞争优势的人，仍然能够作为平等的社会成员生活。

如果一个人因为AI而失去了赖以谋生的技能，她当然不会因此失去人格尊严。但如果她同时失去了稳定的收入、住房保障、继续学习的机会，以及参与公共生活的实际能力，那么仅仅告诉她「你的价值没有改变」，又能解决多少问题呢？

这就是句没错的废话啊。

我甚至觉得，AI可能正在让这个原本就存在于现代社会中的矛盾，变得越来越难以回避。

过去我们还能够相信，即使人与人在能力上存在巨大差异，每个人仍然可以通过学习某种技能、从事某种劳动，在社会分工中找到自己的位置。至少在理想中，一个人可以通过劳动获得报酬，也通过自己的劳动获得社会承认。

可是，假如越来越多的认知劳动也能够被机器以更低的成本完成，那么事情就变得复杂了。

我们当然可以期待AI带来巨大的生产力增长，降低商品和服务的成本，甚至让更多人摆脱繁重而无意义的劳动。但生产力增长本身，并不自动决定增长的成果如何分配。

谁拥有这些AI？谁能够使用它们？谁有权决定它们的用途？它们创造的收益最终流向哪里？

发展的问题不会自动随着发展而解决。

而且，随着AI能力的增强，一个更加根本的问题也会逐渐浮现。

假如有一天，AI能够比绝大多数人更有效率地创造经济价值，那么，那些不再具有相对生产优势的人，是否仍然有权分享由AI创造的社会财富？

要怎么才能做到呢？不能是每个人终究都能找到一种比机器更加擅长的工作。如果人的基本生活资格需要建立在这个前提上，那么我们就仍然没有真正摆脱能力主义，只是又是换赛道重开。

但至少，我们可以先确定一件事：社会不能仅仅因为一个人的劳动不再具有市场竞争优势，就认为她从此失去了分享社会成果的正当资格。

而且，职业和收入还不是这件事的终点。

因为这次AI正在进入的，恰好有一些是过去由人类承担的、推动文明继续向前的活动：发现新的数学，在基础科学中产生知识，分析复杂问题，提出方案，作出判断。

如果AI最终只是改变几个职业，这当然可以被理解成又一次规模巨大的技术革命。可假如越来越多这样的认知活动都可以由AI承担，那么变化就会继续向上延伸：人类可能不再是文明复杂认知活动的唯一承担者。

这时候，我们需要讨论的就不只是工作的分配，而是人类与知识、创造以及文明自身的关系。

一个文明能够在很大程度上依靠非人类智能产生新的知识，这当然可能是一件好事。但假如这些知识的增长速度远远超过了人类理解、检验和吸收它们的速度，那么「文明的知识增加了」和「生活在这个文明中的人理解了更多」就会慢慢分离开来。

数学研究不仅包括一个定理最终被证明，也包括人们如何理解这个证明，如何发现它与其他知识的联系，如何围绕它交流、争论，以及如何从中产生新的问题。

如果有一天，AI能够不断生成正确的证明，而绝大多数人类研究者已经无法独立理解其中最前沿的部分，那么数学作为知识体系也许仍然在进步，但人类与数学的关系就会发生很大的变化。

这种变化未必完全是坏事。

毕竟，人类文明发展到今天，早已没有谁能够独立理解全部科学知识。我们早就习惯了依赖他人的专业判断，也早就通过复杂的分工和合作推进知识的发展。

但是这次我们好像快要摸到了「完全失去参与能力」的临界点。

以前，一个年轻的数学研究者至少还可以期待，通过长期训练、与同行交流、反复尝试，自己也许有一天能够触及学科的前沿。那种可能性本身，就构成了他选择这条道路的重要理由。

假如未来他无论怎样努力，都很难赶上由机器不断向前推进的知识边界，那么他失去的可能不仅是一个职业机会，还有一种通过自己的理解、劳动和创造参与知识发展的方式。

这也是为什么，我不太喜欢一种很轻巧的答案：AI比人聪明又怎样，就像《群星》里的失控机仆社会一样，我们依靠AI就好了。

如果机器能够更好地完成一切工作，人类只需要享受成果，那么我们为什么还要关心谁在创造知识、谁在作出决定、谁在推动文明？

难道一个能够自动满足人类需求的文明，还不够好吗？

凯瑟琳·海尔斯在《我们何以成为后人类》中反复批评一种把人理解成纯粹信息处理器的倾向。好像只要认知和计算能够被完整地抽象出来，承载它们的身体就只是一个可以随时替换的容器。

但现实中的人并不是这样存在的。

人会累，会生病，会依赖别人，会因为生命有限而不得不选择。同样一个医学上的发现，对患病者意味着什么，对健康的人意味着什么，对富豪意味着什么，对失去工作的人意味着什么，都来自这些具体的生活条件。

文明也并不只是数据库。

数学和其他科学、政治、文化，最终都会重新进入人的生活。新的医学知识可能改变一个人的寿命，新的生产技术可能改变她的工作，新的社会制度可能决定她能够在哪里生活、接受怎样的教育，以及自己的人生怎样发展。

所以，文明的进步不能只用它产生了多少知识、创造了多少财富来衡量。

我们还必须关心，生活在这个文明中的人究竟过得怎么样，以及他们与这些知识、技术和社会制度之间，形成了怎样的关系。

这就把我们带到了「参与」的问题。

人类是一种控制欲很强的物种，所以不愿意把文明的发展完全交给机器——当一种技术、一项制度或者一种文明发展方向，将深刻影响一个人的生活时，人类觉得自己应该拥有理解、讨论、质疑并参与决定这些事情的机会。

这些问题本来就不应该仅仅由最聪明的人回答。

我们当然需要尊重专业知识。可是，一个杰出的数学家并不会因为掌握了更加高深的数学，就天然比一个普通工人更有资格决定后者应该过怎样的生活。

同样，即使未来的AI拥有远远超过人类的认知能力，也不能仅仅据此认定，它或者掌握它的少数机构，就天然拥有替所有人决定社会发展方向的正当权力。

在这里，能力与权利的区分，又一次变得重要起来。

我们可以在专业判断中承认认知能力的差异，但不能未经论证，就把这种差异直接转化成社会成员之间政治地位的差异。

而且，参与不只意味着拥有表达意见的权利。

一个人如果无法理解正在影响自己生活的制度，如果缺乏接受教育、获得信息和发展自身能力的机会，那么即使他在形式上拥有发言权，也很难真正参与其中。

这同样是为什么，我不认为未来人类最好的位置，就是安安心心地享受AI创造的成果。

我希望人们能够继续学习、理解、创造，能够为自己感兴趣的事情付出努力，能够在与其他人的合作中产生新的认识，并且有机会参与决定自己生活于其中的社会是什么样子。

这些活动未必都要达到科学研究的最前沿，也未必能够产生某种可以被市场衡量的经济价值。

一个人可以因为理解了一条数学定理而感到快乐，即使那条定理早已被AI证明；可以因为完成一件作品而感到满足，即使机器能够在几秒钟内生成更加精美的成品。

人类也从来不是在与外部世界完全隔绝的情况下，独自创造出今天的文明。

从语言、文字到印刷术、计算机，我们始终在借助外部事物延伸自己的能力。技术改变人类，人类也在使用技术的过程中改变自己，AI当然也不例外。

未来要保留人的参与，并不意味着所有重要事情都必须由人类单独完成，也不意味着AI只能永远待在工具箱最底层。人和技术本来就会彼此塑造。更值得关心的是，我们会以什么方式和这种新的智能结合，而这种结合最终把人的能力、判断和位置带到什么地方。

问题出在结合的方式。

一个学生和AI反复讨论一个问题，最后真的能自己看懂论证；另一个学生把答案复制进作业，下次碰到同类问题仍然完全不会。两个人都「用了AI」，发生在他们身上的事情却差得很远。

一个研究者可以因为机器获得以前不敢想象的能力，也可能从此只负责替一个自己看不懂的系统签字。

同样，一个社会可以利用AI让更多人获得过去只有少数人才能接触的知识与教育资源，也可能让最强大的认知能力进一步集中在少数机构手中，使绝大多数人越来越依赖自己无法理解、也无法影响的系统。

这些结果之间的差别，显然不是简单地由AI有多聪明决定的。

它们还取决于技术如何被设计、谁能够使用它、围绕它建立了怎样的社会制度，以及我们究竟希望它帮助人类成为什么样的存在。

这也是我现在对「人类特殊性」这个问题最暂时的回答。

我不知道人类是否拥有某种AI永远无法获得的特殊属性，也不认为现在有必要急着给这个问题一个最终答案。

我们当然还可以研究意识、身体、情感和主体性，它们本身就值得研究。未来的非人类智能是否可能具有自己的道德地位，也同样值得认真讨论。

但我不希望把这些尚未解决的问题，变成人类尊严最后的防线。

因为一个人不需要通过证明自己比其他存在更加聪明、更加有创造力，才有资格获得尊重。

这个道理在人与人之间成立，当我们面对一种可能比人类更加强大的智能时，也不应该被轻易放弃。

所以，我想回到那句让人很难接受的话：人类可以不再是最聪明的存在。

但人类没有从此失去价值。

如果我们只关心AI究竟能替人类做多少事情，却不关心人类自身还能如何理解世界、创造知识、参与决定社会的发展方向，那么我们也许会得到一个越来越富有、越来越高效，却让越来越多人感到自己只是旁观者的文明。

我不认为这是一种值得毫无保留地欢迎的未来。

但我同样不认为，正确的答案是要求AI停止进步，让人类永远保有某种智力上的优越地位。

真正需要改变的，也许是我们理解人的方式，以及我们组织社会的方式。

当人工智能逐渐成为知识创造与文明发展的重要参与者时，我们需要重新思考，怎样让普通人继续拥有理解、学习、创造和参与社会决策的实际机会。以及当非人类智能真正成为文明的参与者时，我们又应该如何理解它们的地位，以及人类与它们之间的关系？

那个研究Ricci flow的人，他完全可以接受世界上出现一个比自己更快的解题者。人类数学研究者之间本来就存在竞争，一项成果由别人先完成，也并不是什么新鲜事。

可是，假如未来每一次他刚刚抵达前沿，前方就已经堆着几百份由机器生成的新结果；假如他再也难以通过自己的研究触及知识的边界，那么他还能以什么方式成为数学的一部分？

我们至少应该认真思考，在一个知识越来越多地由非人类智能创造的世界里，人类究竟还能以怎样的方式参与其中。

也许未来的许多知识会在我们有能力理解它们之前，就已经被机器创造出来。

甚至有一天，文明前进的速度真的会快到我们难以想象。

但我希望，生活在这个文明中的人，仍然能够理解它、质疑它、参与它，并且分享它所创造的成果，而不是仅仅被它带着向前。

AI可以先于我们抵达终点，但我们仍然有权追问：这场比赛为什么而跑，谁决定它的路线，抵达之后，我们所有人又要一起去往哪里？

这也许才是处在这个时代的我们，真正需要思考的问题。