AI²译介|人工智能对认知自主性的侵害——一种分级分析路径
本章探索两种认知之善间的张力。第一种认知之善，是能够以便捷的方式轻松、快速地获取准确信息。 倘若你想知道什么是有理数、孩子患天花时该如何处置、如何以最快方式抵达巴黎，或是拉瓦锡定律的理论依据是什么，且假设获取这些信息具有一定紧迫性时，那么去谷歌（Google ）搜索无疑是合理的选择。你当然可能怀疑所得答案是否准确，但为便于论证，我们姑且假定谷歌（或你使用的其他任意信息服务）提供的信息是准确的。我们不妨再进一步设想，你甚至无需在键盘上输入问题，因为你的大脑中已植入了一款人工智能装置：当你问自己“什么是有理数？”时，人工智能就会给出正确答案。从认识论视角看，你可能会认为上述情形，以及你在其中所扮演的角色是非常理想的。 然而， 另一种认知之善却与即时获取信息的便利形成张力，这就是自主探究、独立研究、自主思考之善。 为了阐明自主思考之善，本文以填字游戏的两种解题方式为例。你可以采用传统方法，即独立思考、发挥创造力、自行查阅资料的方式。同时，你也可以直接查阅答案，将其抄到空白格子中。传统方法具有单纯照搬所不具备的价值。正如厄内斯特·索萨（Ernest Sosa）所说：“仅凭照搬正确答案来抵达真理，并非求知的应有之义。你的目标不能止步于‘做对’，而应追求亲力亲为的成功。”倘若大脑里植入的装置能精准回答你脑海中浮现的任何问题，这难道不是另一种“抄答案”吗？既然它没有给亲历式成功留下空间，其价值岂不同样受限？ 本章正是要探讨这种张力。我们将从讨论认知自主性这一概念入手，并以伊曼努尔·康德（Immanuel Kant）的著名文章《回答这个问题：什么是启蒙？》（An Answer to the Question: ‘What is Enlightenment?’）为出发点。在这篇文章中，康德呼吁：“要有勇气运用自身的理性！”这便引出了两个初始问题。第一，“运用自身的理性”究竟意味着什么？第二，为何人应当拥有这样的勇气？运用自身理性究竟有何好处？此外，还有第三个问题，我们只会简要涉及：所谓“运用自身的理性”究竟是一种义务，还是一种德性？ 为回答第一个问题，康德提出：所谓运用自身的理性，就是“在无他人引导下使用自身的知性”，是“独立思考”是“在一切事情上运用自身的理性”。这三种说法都强调以自我为中心，即自我指向性。康德是以利己主义视角思考自主性的，因此我们应当厘清他所使用的那些涉及“自我”的表述，因为它们可以被赋予多种不同的解读。 一种解读是： 若你所思所信的一切，都是自己独立推导出的，那么你的思维与信念形成过程中便是自主的。 你的结论源于自身研究，而非受他人思想与信念的引导。他人断言、思考或相信命题p，这一事实并不构成你相信命题p的理由。琳达·扎格泽布斯基（Linda Zagzebski ）把这种立场称为极端认知利己主义（extreme epistemic egoism.）。 如果认知自主性就等同于采取这种极端立场，那么两个规范性问题便会随之产生。第一，如此理解的认知自主性，是不是一种认知之善——即是否具有正面的认知价值？第二，这种价值是否会产生相应的认知义务，要求我们培养这样的自主性？这两个问题彼此独立，因为某物可以是一种认知之善，却并不必然伴随着实现该善的义务。此外，我们还应当区分 认知义务（我们作为认知主体所承担的义务） 与 道德义务（可能包括在道德上必须保持认知自主性的义务） 。本章的讨论聚焦于认知规范性层面。 人类是否有义务保持认知自主？婴幼儿显然没有，因为他们尚不承担任何义务。即便是已承担部分责任的青少年与青年，也并不负有这种自主性义务。倘若有，那么中小学生和大学生就绝不会相信或接受老师讲授的任何有关历史、地理、科学、文学等方面的内容，正规教育也将变得毫无意义。而事实并非如此。即便对于智识成熟的人来说，这种极端意义上的自主性也并非一种善。在学术领域，科学家和学者都站在前人的肩膀上，基于前人的论述接受并相信许多论断，这些内容他们未曾且在多数情况下无法独立探究得出。学术界内部还存在着一种良性的认知劳动分工，而这种极端立场恰恰与此相悖。若我们要达到上述极端程度的自主性，那么将在认知层面错失大量极具价值的内容。 “自主思考（autonomous thinking）”这一概念看似清晰明了，但一旦付诸实际应用中，便会变得复杂起来。你或许从未独立推导出“二的平方根不是有理数”这一结论，但倘若有一位优秀的数学老师向你演示了证明过程，你便会相信这结论。同理，你之所以相信阿尔伯克基是新墨西哥州的首府，是因为你在美国地图上查阅到了这一信息。这些信念的形成是否“未受他人指引”？答案似乎并非如此，可“在无他人指引下”相信这类事情，又究竟意味着什么？约翰·塞尔（John Searle）所说的“制度性事实（institutional facts）”。例如“这张纸是钱”、“约翰与阿比盖尔已婚”或是“阿尔伯克基是新墨西哥州首府”根本不可能在“无他人指引”的情况下被认识，进而被相信。此类例证足以让认知自主性的极端概念显得荒谬。 不过，我们仍然可以用更平衡的方式来理解康德的话。例如，当你所思所信的一切满足以下条件之一时，你的思考就是自主的。 （1）通过独立探究得出该结论 ；（ 2）你是基于他人所说、所想、所信而形成这一思想或信念的，同时你拥有确凿的第一手证据，证明这些人在相关事情上是可靠的。 这种自主性允许你相信并非由自身独立探究得出的事情。更准确地说，即便你未曾直接独立推导出命题p，只要你简介判断出主张、思考或相信命题p的主体是可靠的，你就可以相信命题p。扎格泽布斯基将这一立场，或者与之非常接近的立场，称为温和认知利己主义（weak epistemic egoism.）。 于是问题再次出现：在这种意义上保持自主，是不是我们的义务？是否为善？显然，这对婴幼儿来说仍然不是义务，但中小学生和大学生是否有义务在这种非极端意义上保持自主性呢？他们是否有义务去搜集第一手证据，以判断老师与教授的可靠性？相关证据必须具有归纳性，以证实教师当时所述、所思及所信内容的正确性、适宜性与真实性。然而，对于一个中小学生、大学生，乃至任何人而言，搜集这类证据是否具有可行性？在实践中，记录他人的言论、思想、信念及其真假，进而评估其作为信息来源的可靠性，是极其困难的。即便在非常简单的情形中，这些问题似乎也难以克服。假设你遇见彼得，他主张命题p。你无法亲自验证p是否成立。由于此事对你而言很重要，而你又想成为一个自主思考者，于是你着手搜集有关彼得可靠性的证据。假设你所搜集到的，仅仅是彼得说过的以下几句话：（1）在t1时刻：“我今天早餐吃了一个葡萄柚。”（2）在t2时刻：“我昨天独自待在地下室里，没人看见我。”（3）在t3时刻：“恺撒渡过了卢比孔河。”再假设，你无法亲自核实彼得那天早上是否真的吃了葡萄柚，昨天是否真的是一个人在地下室里，或者恺撒是否真的渡过了卢比孔河。你没有任何支持彼得可靠性的证据，而若要秉持上述意义上的自主性，那么即使彼得说了主张p，你也不应该相信p。这一原则可以被应用于更复杂的案例。在每一个情境中，结论始终一致，即我们实际上不会且也无法做到温和自主性概念所要求的事情。只有在亲自证实了他人的可靠性之后，才能接受他们告知我们的内容。既然“应当”意味着“能够”，而我们又无法满足这一要求，那么就不存在此种意义上的认知自主义务。 即便是遵循这种温和的自主性，问题依旧存在：这样做是善的吗？信任那些我们无法亲自核实其所言之事的人，本身便具有价值。例如，萨姆感到心脏疼痛，于是去看医生。医生说：“你正处于心脏病发作的边缘。”且后来的结果证明此言属实。萨姆接受并相信了这一诊断，并且这一选择显然是有益的，尽管它违反了上温和自主性概念的要求。这种版本的自主性（无论作为义务还是德性）似乎与第一种极端自主性一样，都陷入了荒谬之中。 至此我们所讨论的两种自主性概念，都是以自我为中心的。用扎格泽布斯基的话来说，它们所体现的都是某种认知利己主义。与我们一样，扎格泽布斯基也反对认知利己主义。她的论证路径与我们不同，却可以彼此兼容。而且，扎格泽布斯基的论证揭示了我们尚未触及的方面。她指出，认知利己主义在逻辑上是无法自洽的。她论证如下：认知利己主义者对其自身认知能力的信任程度高于对他人的，尽管并无证据证明自己比他人更为可靠的认知主体。当然，缺乏此类证据并不意味着认知利己主义就是假的。认知利己主义仍有可能成立，只是无法被证实而已。但扎格泽布斯基进一步指出，认知利己主义与利己主义者所持的标准是不一致的。这一论证颇为有趣也很重要。扎格泽布斯基注意到，认知利己主义者信任自己，尽管其并没有可以证明自己值得信任的证据。如果认知利己主义者是理性的，那么当他人展现出与其信赖自己时所具有的同等特质时，他就理应信任他人。他对自己的信任，本身就要求当他人处于与自己相同的处境，也就是说，当他人处于相似的环境中、拥有明显相似的力量和能力，并且像他相信自己时那样尽职尽责地行动时，他也要相信他人。若要保持逻辑一致，那么在其他条件相同的情况下，他必须像信任自己一样信任他们。因为他没有任何依据认为自己比那些与自己认知水平相当的人更值得信任。这实际上就等于放弃认知利己主义。扎格泽布斯基这样总结她反对认知利己主义的论证要点： 运用我所信赖的自身能力，这一行为本身便要求我信任他人。认知利己主义者信任自身能力，而在我们所处的世界中运用这些能力的结果，便是她必须信任他人。换言之，她不得不放弃认知利己主义。 由此可见，扎格泽布斯基的论证揭示了认知自信所蕴含的社会性含义。要想抵挡住扎格泽布斯基对认知利己主义的批判，那么对于认知自主性的阐释就必须将这一维度纳入其中。简而言之，认知自主性不应以利己主义的视角来理解。那么，该如何从正面理解这一概念？萨姆在未确认医生诊断可靠性的前提下，仍选择信任并向其咨询的案例，提示我们可以采用一种更温和的自主性概念，如下： 一个人具备认知自主性，其所思所信需满足以下条件之一： 要么 （1）相关信念是由本人独立推导得出 ；要么 （2）同时满足以下两点 ，（a）基于他人的所说、所想、所信而形成，并且（b）经由审思，你没有理由怀疑他们所说、所想、所信的内容。 条件（2）允许个体基于他人的证言而相信命题p，只要个体没有理由质疑证言的提供者或证言内容。对他人证言应当是信任的默认态度。证言应当遵循无罪推定原则，除非被证明有误。更确切地说，在那些你本就认为他人值得信赖的情境下，除非你有理由认为事实并非如此，否则就应当在认知上视他人为值得信赖的。 按照这一自主性概念，即便缺乏支持命题p的第一手证据，甚至缺乏关于证言者可靠性证据，在此情况下个体仍可在相信命题p时被视为实现认知自主。此时，唯一的必要条件是：不存在怀疑命题p的充分理由，且/或不存在怀疑证言者可靠性的理由。这种关于自主性的理解既认可认知劳动分工的合理性，也认可儿童基于父母、老师以及其他人的所说、所思、所信形成的信念。 我们不妨再次追问：这种认知自主性模型是善的吗？我们是否应追求此种意义上的自主性？而实现此种意义上的自主性，是否属于我们应当承担的认知义务？截至目前，本文对利己主义自主性的理论局限性探讨主要围绕证言展开，且讨论表明，基于证言形成的信念在认识论层面并无问题。不过，我们仍需追问：是否存在其他类型的信念，在认知层面存在争议？康德在强调自主思考的必要性和价值时，是否存在其他特定信念需要回应并加以排除的？我们不妨思考一些非自主信念的典型案例，并检验前文探讨的非利己主义式的自主信念构想，是否能将这些案例排除在外。如若不能，我们就需要进一步细化这一概念。非自主信念的典型例子包括： b. 不加批判、不加反思地相信他人所言、所思、所信。 针对情形(a)，尽管最终都形成了信念，但应区分两种情况。在第一种情况下，所谓权威要求你相信命题p，而你既无理由认为p为假，也无理由质疑该权威的可靠性。在第二种情况下，你确实有理由怀疑命题p或质疑该权威可靠性。上文所述的非利己主义自主概念可以妥善处理这两种情况：在第一种情况下，这一信念被视为是自主的，因为它满足了条件(a)和(b)。但在第二种情况下，由于未能满足条件(b)，该信念并不符合认知自主的标准。对于两种情形，较温和版本的认知自主理论都给出了符合直觉的结果。 对于情形（b），若你留意到他人所说，所思及所信命题p后，就不加批判、不加反思地相信命题p，那么你的信念便不具有自主性。非利己主义的自主概念同样能有效处理此类案例。因为在这种情况下，主体根本没有进行任何反思，因此这类信念不具备认知自主性。 至于情形(c)，若你因受到操控、灌输或其他手段被诱骗而相信命题p，那么你的信念同样不是自主形成的。然而，非利己主义的概念在此处却失效了，它无法识别出这类信念是非自主的。由于你被诱骗这一事实无法通过反思来察觉，你便没有理由去质疑操纵者，也没有理由去怀疑他们所说的内容。在你看来，一切似乎都顺理成章。尽管如此，你的信念依然不是自主，因此需要对这一概念的分析做出补充。 果真如此吗？值得注意的是，关于认知自主性的讨论似乎总是假定了自主性是一种非此即彼的事情。即一个人在思考或相信命题p时，要么是具备认知自主的，要么不是。然而从直觉上看，更合理的观点是，认知自主性具有程度之分。换言之，即便A和B都相信命题p，A在该信念上的自主程度仍可能高于B。毕竟，牛顿在构建万有引力理论时的思维过程，其自主性要远高于二十一世纪小学生在课本上学习引力知识时的理解过程。 “自主的”，正如我们接下来所主张的，是一个分级概念，因为它是由“一系列典型属性构成的（is constituted by stereotypical properties）”。我们直观地设想出一系列属于认知自主主体的典型特征。比如，在思考或相信命题p的过程中，如果A比B具备更多这类特征，那么A在相信p时便比B拥有更高程度的认知自主性。 那么，这些典型特征究竟是什么呢？在下一部分中，我们从相关研究文献中梳理出若干要点。我们首先从上文已经发现的特征开始列举： 特征[b]： 认知主体S基于他人的证言而思考或相信命题p，并且S有理由信任这些人。 特征[c]： 认知主体S基于他人的证言而思考或相信p，并且S没有理由怀疑这些人及其提供的证言。 一个信念之所以具有认知自主性……就在于主体获得该信念的方式并没有绕过或抢占主体自身的（完整意义上的）认知能力。并且，这种绕过或抢占会导致认知主体S无法轻易摒弃对命题p的信念。 灌输、操控、洗脑，以及卡特所论述的脑机接口（brain-computer interfaces，简称BCIs）等方式，都会绕过或抢占个体的认知能力。例如，通过灌输、误导性设置或药物作用，使个体的理性能力陷入瘫痪。概言之，凡是绕过自身认知能力形成的信念，通常不具备持有理由-反应的自主性特征，也对新经验无动于衷。如此形成的信念往往难以被摒弃，会顽固黏着。相反，如果个体具备认知自主性，那么即使面对相反的证据与经验，其对命题p的信念也不会顽固不变。由此，我们又提炼出具备认知自主性的主体在思考或相信命题p时所共有的另外两个常见特征： 特征[d]： 认知主体S形成关于命题p的思想或信念时，没有绕过自身认知能力。 特征[e]： 认知主体S关于命题p的思想或信念，能够持有理由并作出回应，同时对经验保持敏感。 琳达·扎格泽布斯基认为，“智识自主性就是个体在自身信念中的自我管理实践”。她还指出： ‘自主’这个概念，是用以指称我们在觉察到自我意识时所做的事情……自主性是自主的自我对自身的管理，即通常所说的自我治理。……我主张，自我反思的基本规范，即是我所说的尽责性。尽我所能运用自身能力，让能力的产出与对象相契合，让我的信念为真……尽责性是自我反思者所遵循的高阶规范，也是自主性的规范。 特征[f]： 认知主体S以一种尽责的方式相信命题p，即尽己所能运用自身认知能力，确保自己的信念为真。 卡特和扎格泽布斯基在刻画认知自主性时所使用的概念虽有不同，但二者皆捕捉到了自主性某些独特内涵。他们的描述在部分内容上亦有重合。就本文研究目的而言，我们无需对此差异进行穷尽式的辨析。在描述若干人工智能案例后，我们将用这份特征清单进行考察，即人工智能在多大程度上损害（若确实损害）使用者的认知自主性。 在信息已然触手可及，甚至不久的将来还会通过脑机接口将人工智能植入大脑的环境下，认知自主性将面临何种境遇？在此之前，需要先明确本文对认知自主性的阐释所包含的两个核心推论： 第一，自主形成的信念并不必然为真。 并不存在某种先验保证，能确保只要你坚持独立思考就绝不会出错。当讨论认知自主性时，我们必须直面那些鼓吹“不要盲信主流媒体，而要‘自行研究’”的阴谋论者。需要强调的是，本文所界定的认知自主性，并非默认不信任他人。相反，其出发点是信任，除非存在怀疑理由。然而，在我们明知或者有充分理由怀疑充斥大量虚假信息传播的信息环境中，这种信任的默认态度会比在错误信息较少的信息环境中，更快速、更频繁地遭到动摇。本文所述的自主性理论绝不意味着可以为大规模的不信任开方便之门。不信任必须是合理的且应得的。 本文所述的分级自主性理论还意味着，即使两个人可能都相信命题p，也可能出现其中一人具备认知自主性，而另一人则不然。或者其中一人的自主程度高于另一人。 既然自主性并不能保证信念为真，那么推动人们追求自主思考，或者在康德看来，推动形成这种义务的动力究竟从何而来？ 我们认为，其根源在于对负责任地持有信念（believe responsibly）的追求。 我们希望其他人对自己的信念负责，因为我们认为相信并非一种被动行为，即它不只是发生在我们身上的事，就像我们的头发和指甲会自己生长一样。相反，我们对待他人的方式预设了他们能够为其思想和信念负责。同理，他人也会要求我们为自己的信念负责，并在必要时追究我们的责任。追求信念上的自主性，与追求负责任地持有信念，是紧密相连的。如果我们在信念上完全是非自主的，那么我们就不能为自己的信念负责，也无法要求别人为他们的信念负责。我们的社会制度，例如法律、教育、政治和科学，皆根植于人应当为其信念负责这一基础之上。 在人工智能充当我们认知活动中介的环境中，认知自主性与负责任的信念之间的这种关系具有了新的意义。在确立了一个非利己主义的、具有程度化差异的认知自主性概念之后，我们将进一步考察：人工智能系统会如何影响、增强或削弱我们形成自主信念的能力。而上文识别出的那些认知自主性的典型特征，将成为评估这种影响的分析框架。 在人工智能环境中，认知自主性的境遇究竟如何？再者，人工智能本质上又是何种事物或现象？拉蒙·阿尔瓦拉多（Ramón Alvarado）认为，要准确把握人工智能的独特属性，应将其界定为一种认知技术。他提出了三项特征，它们分别构成必要条件，且共同构成人工智能胜任此角色的充分条件。 阿尔瓦拉多提出的认知技术的第一个特征是，其设计目的适用于认知情境，即以知识的获取、留存、运用和创造为目标的情境。 仅满足这一点，不足以将一项技术定义为“认知技术”：讲堂中的电灯开关即符合这一条件，因其用于认知情境，试管、录音设备或显示器亦然，然而，它们却并未被冠以认知技术之名。 阿尔瓦拉多给出的第二个特征是，技术被设计用于处理认知内容。 认知内容可被理解为一种“经过深度筛选——通常具备理论依据且语义丰富”的数据。阿尔瓦拉多强调，“无论认知内容具体定义为何，这类经过深度筛选——通常具有理论依据且语义丰富的——内容类型，都符合这一定义。”他补充道，人工智能技术“固然处理符号。但其所涉亦包括复合能指，如词语、词组、句子及蕴含其中的主题指涉。”认知内容之所以有别于单纯的物理内容，在于它参与的是受认知规范与评价制约的表征活动。因此，认知内容包括带有语义负载的信息、命题、模型和表征。正是这些认知内容，构成了人工智能系统作为认知技术运作时的加工对象。 这个第二个条件将电灯开关、录音设备和显示器排除在认知技术之外，因其并非为处理认知内容而设计。然而，望远镜、显微镜、计算器，乃至纸笔形式的数学证明呢？它们每一项都满足第二个条件，因其设计目的正是处理认知内容；然而究其本质，它们仍非同等意义上的认知技术。阿尔瓦拉多的框架因而需要第三个特征。 第三个特征指出，认知技术旨在对认知内容执行认知操作。 这就把望远镜、显微镜和计算器也排除掉了：显微镜和望远镜是通过物理操作来转换物理信号的，借助透镜调控光波以生成放大图像；而计算器仅依据固定规则运算数学符号，并不对数学本身进行分析或推理。与之不同，人工智能系统可对认知内容执行真正的认知操作，包括模式分析、逻辑推理、预测生成与关系评估，这些均是针对认知内容实施的操作。
1.5
认知技术对认知自主性
的部分侵害：若干案例
现在，让我们考察若干人工智能的应用案例，并追问：这种使用是否侵害了其认知自主性？若是，程度几何？ 艾格尼丝（Agnes）使用的是人工智能驱动的写作助手Grammarly。从核心机制来看，Grammarly调用了数个协同动作的复杂AI子系统。其底层是一个执行基础语言分析的自然语言处理（NLP）引擎，负责句法解析、语法关系识别及句法评估。在此基础上构建的，是处理写作不同面向的更高级组件： 第一层提供拼写纠错与语法建议 ； 第二层则承担“清晰化”功能——可对句子进行重写，使其表意更明晰、行文更简洁。 然而，Grammarly的功能并不止于基础纠错与文字编辑。它内置一套复杂的风格分析系统， 可就如何让文本（据称）更引人入胜、更具效力提出建议 。此外，该系统还提供丰富的自定义选项：用户可选择行文语气——随意、中性或正式。再者，用户还可标明文本所面向的受众类型：一般受众、具备知识者或者专家。用户甚至还可以选择文本的“意图”：是旨在告知、描述、说服，抑或讲述一个故事？ 依据阿尔瓦拉多的模型，上述特征足以令Grammarly轻易符合认知技术的定义。Grammarly应用于一个认知情境（艾格尼丝意图传达内容），它对内容施以控制（拼写与语法被核查与调整），并对内容执行认知操作（赋予文本某种语气、某种正式程度等）。 让我们来评估艾格尼丝在撰写吊唁信时对Grammarly的使用。首先，我们将聚焦于“操控认知内容”这一环节（即拼写与语法检查器），并将其置于两个不同情境中考察。 在情境A中，艾格尼丝是一名9岁学童，在校内拼写和语法测验中成绩不佳。当她的错误被Grammarly纠正时，她自身并无能力判断，为何修正后的文本优于她最初输入的内容。因此我们必须得出结论：认知自主性的特征[a]在此缺失——她并未自行确定信中应使用的正确拼写与语法。特征[b]同样缺失：她对人工智能的运作机制一无所知，因而没有理由予以信任。特征[d]也告缺失，因为信件的过程绕过了她自身的认知与语言加工过程。她对修正后文本的态度也不具有理由回应性[e]；倘若有人告诉她，人工智能的修正有误，她也无法回应，因为她对正确的拼写和语法规则并不了解。至于特征[f]，此案例则存在两可：一方面，我们可以说艾格尼丝未能以最佳方式运用其认知官能，因为她实际上并未真正动用这些能力。但另一方面，我们也可以说，艾格尼丝自知语言成绩不佳，故而将拼写与语法外委托予Grammarly处理，这本身亦可被视为一种尽责之举。综合来看，艾格尼丝对人工智能的使用仅具备极低程度的自主性：约为2/10（10代表完全自主，1代表全无自主）。 这一情境揭示出一种微妙的形式，我们可称之为“自主性自欺”。艾格尼丝或许会因写就一封措辞得体的信件而生出成就感，但这些修正实则完全绕过了她的理解。这制造出一种能力假象，可能会削弱她发展真实语言技能的动机。此项技术虽在短期内有其助益，却也可能助长一种虚假的自主感，从而遮蔽了真实存在的依赖关系。 在场景B中，艾格尼丝是一名专业编辑，她对Grammarly的使用体现了与该技术之间一种截然不同的关系。特征[a]在这里是存在的，因为原则上她知道如何正确写作。特征[b]也可能存在，因为她可能研究过这一人工智能，知道它是如何运作的。即使她在拼写或语法上出现了打字错误，自主性特征[d]仍然存在，因为修改后的信件并未真正取代她自身的语言能力。自主性特征[e]也是如此，因为如果有人告诉她这些修改是不正确的，她可以自己去判断这是否属实，毕竟她了解拼写和语法规则。特征[f]也存在——至少可以存在——也就是说，当她重新阅读修改后的文本（如果真的做了修改的话）并确认一切都妥当时，她表现出了尽责性。在情境B中，艾格尼丝的自主性评分可达到8/10。 让我们再来看一个更复杂的案例。艾格尼丝通过ChatGPT寻求有关职场冲突的建议。在场景A中，她输入：“我的老板在会议上一直把我的工作说成是她自己的。我该怎么办？”艾格尼丝将ChatGPT视为权威顾问，不加批判性思考就实施其建议。这暴露出认知自主性与实践自主性之间一个值得注意的交汇点。虽然眼前的担忧看似是实践性的，但潜在的自主性问题从根本上来说是认知性的：这些问题关乎艾格尼丝如何形成关于恰当的职场行为、职业道德以及冲突解决的信念。 艾格尼丝的做法无法满足多项构成自主性的特征：她并不是自己想出解决方案[a]，她也没有信任ChatGPT在职场情境中的可靠性依据[b]，并且她还让系统绕过了自己的判断能力[d]。更微妙的是，她不了解ChatGPT的工作原理——它是通过模式匹配而非真正的推理或凭借经验来生成回应——这削弱了她反思性地将其建议置于具体语境中的能力。在这种情况下，她的自主性接近1/10，因为艾格尼丝将判断让渡给了一个她并不理解的人工智能系统。 当艾格尼丝开始把ChatGPT当作朋友时，情况就变得更加复杂了。她向人工智能倾诉个人困境，并从中寻求情感支持，这就形成了认知自主性与实践自主性之间复杂的交互关系。在认知层面，她会根据ChatGPT的回应，形成有关自己情绪状态和人际关系的信念。但在实践层面的影响更深：ChatGPT的建议会微妙地影响着她的决策、自我理解，以及她处理人际关系的方式。当艾格尼丝信任ChatGPT，并开始在生活选择、职业决策或关系处理方面听从它的建议，而不再把这些建议与自己的价值观和经验进行批判性对比时，她在实践层面的自主性就被削弱了。 这里的风险不仅是认知依赖，更是一种更深层的“自主性自欺”：人在越来越依赖由人工智能中介的知识时，却仍然维持着自己是在独立判断的幻觉。艾格尼丝可能会因为有一个随时在线的“朋友”而感到更有力量，但这种随时可及的状态可能会削弱她独立做决定的能力和情绪自我调节的能力。这种情况在实践上的后果表现为：她对自己的判断信心下降；在不借助人工智能咨询的情况下应对挑战的韧性减弱；以及她对生活中突发情境形成真实、自然反应的能力也变差了。 当艾格尼丝使用ChatGPT来总结一篇关于新型癌症治疗的技术论文时，风险进一步提升。在情境A中，艾格尼丝没有医学背景，只是想知道论文在说什么。虽然ChatGPT可能会对结构化的医学文献给出准确摘要——有研究表明，在内容清晰、事实性较强的技术领域中，它的可靠性往往更高。但在这里，艾格尼丝的认知自主性仍然极低。她无法独立评估内容，也无法核实ChatGPT的解释是否准确。从特征[a]到[f]基本上都处于缺失状态——她并不是靠自己弄明白问题，也无法评估其可靠性，并且缺乏相关的认知能力。 这个情境之所以成问题，是因为艾格尼丝无法看到人工智能内部究竟发生了什么。像显微镜这样的传统工具会向我们展示它们是如何工作的——我们可以观察光线穿过镜片，从而形成放大效果。但人工智能就像一个“黑匣子”，其内部运作机制仍不为人所见。艾格尼丝无法追踪ChatGPT是如何得出这份摘要的，也无法验证它是否真正理解了复杂的医学概念。而在医疗情境中，这种不透明性尤为关键，因为误解可能会导致严重的后果。问题还在进一步加剧：即便ChatGPT提供的信息是准确的，艾格尼丝也缺乏去识别其中可能存在的误读或遗漏的理解能力。 在情境B中，艾格尼丝既具备医学知识，也理解大语言模型的运作方式。她知道ChatGPT有能力从结构化论文中提炼关键点，但也可能遗漏重要的细微差别。她会利用自己的医学知识，对照原论文核查ChatGPT给出的说法；并通过主动运用自身认知能力[d]以及尽责地行使自身能力[f]，保持较高程度的认知自主性。她对人工智能局限性的理解，让她能够避开不透明问题——她将ChatGPT用作初步工具而非权威来源，并将其输出结果与自己的医学专业知识及原文进行交叉核对。这一比较凸显出：在人工智能语境中，认知自主性依赖于两种理解能力，即领域知识和人工智能素养。那些明白大语言模型是通过模式匹配而不是真正理解来生成回答，并且掌握人工智能在不同领域中可靠性差异的用户，在享受人工智能帮助的同时，更能够维持较高程度的自主性。这种“校准后的信任”能力——即根据不同领域和信息类型来调整批判性评估强度——对于在一个人工智能高度渗透的环境中维持认知自主性至关重要。认知不透明性带来的挑战使得这种校准尤为关键，即使用户无法完全理解人工智能运作背后的机制，他们也必须建立应对策略来保持自主性。 本章考察了两种不同认知之善间的张力： 一种是通过人工智能技术便捷可得的准确信息的善 ， 另一种则是认知自主性的善 。我们主张，认知自主性最好被理解为一种分级概念，它由一组典型特征的聚合构成，且这些属性在个体身上的体现程度各异。这种非利己主义的自主性概念，使我们既能规避极端和温和认知利己主义的陷阱，又能保留自主思考中有价值的部分。 我们的分析始于康德那句著名的号召——“要有勇气运用自身的理性”，并将其解读为对认知自主性的呼唤。随后，我们批判性地考察了若干种自主性概念，从极端的认知利己主义，一直到要求逐渐降低的诸种概念。借鉴扎格泽布斯基对认知自主主义的批判，我们提出了一种非利己主义的自主性解释，该解释承认认知实践的社会维度，同时保留自主思考的价值。 从我们的讨论中浮现出来的这一分级自主概念，识别出了若干塑造自主性的特征，包括：独立探究问题；基于理由信任他人；没有理由质疑他人；以不绕过自身认知能力的方式形成信念；拥有能够对理由作出回应并对经验保持敏感的信念；以及以审慎负责的方式去形成信念。正是这些特征使我们能够评估：在特定情境下个体的思考能在多大程度上保持自主。 阿尔瓦拉多将人工智能界定为认知技术——即一种被设计用于认知情境、处理认知内容并对这些内容执行认知操作的技术——这一分析，为我们考察人工智能实际使用案例提供了框架。这些案例表明，同一个人工智能系统既可能增强，也可能削弱认知自主性，这取决于使用者的认知能力、他们对人工智能功能的理解，以及具体使用情境等因素。我们识别出一种“自主性自欺”的现象：使用者维持着对自身能力的幻觉，而这种幻觉掩盖了他们对人工智能系统的真实依赖。 当代人工智能系统的认知不透明性严重阻碍了自主思考。与那些运作机制可见或可理解的传统工具不同，人工智能决策过程的“黑匣子”特征，为那些希望一边受益于人工智能帮助、一边保持自主性的用户带来了独特挑战。 我们的分析表明，要在一个人工智能高度渗透的环境中维持认知自主性，就需要同时具备领域知识和人工智能素养——我们将这种结合称为“校准后的信任”。 这种双重能力使用户能够把人工智能的输出恰当地置于自己的理解框架之中：既不会不加批判地照单全收，也不会不加反思地一概拒绝。随着人工智能系统日益复杂并广泛渗透于各个领域，围绕认知自主性的哲学问题只会愈发紧迫。即时可得的信息便利性与自主思考的价值之间的张力，将持续重塑我们的认知实践。要实现恰当的平衡，不仅需要技术层面的成熟，更需要在概念上澄清认知自主性本身的性质，以及它与真理、证成和理解等其他认知价值之间的关系。 丹尼尔·布拉克（Daniel Bracker），现任阿姆斯特丹自由大学讲师，并在美国纽约新学院担任人工智能哲学客座讲师。他是理论哲学小组（涵盖认识论、人工智能哲学与心灵哲学）的研究成员，同时也是人工智能哲学学会会员，并在混合智能研究中心从事研究工作，著有多部作品。他与勒内·范·沃登伯格及克里斯·拉纳利合著《作者身份与ChatGPT》（发表于斯普林格出版的期刊 《哲学与技术》）。其即将发表的论文包括《法律中的“言论”概念是否应涵盖聊天机器人输出？》(Should the Legal Concept of Speech Include Chatbot Output?）（与塔玛拉·多布勒合著）以及《情感懈怠：人工智能时代认知自主性的规范语境主义》（Emotional Slacking: Normative Contextualism About Epistemic Autonomy in the Age of AI）。
勒内·范·沃登伯格（René van Woudenberg），阿姆斯特丹自由大学哲学教授，主讲认识论与形而上学课程，并担任该校宗教与神学院科研主任。其近期著作包括《阅读与诠释的认识论》（The Epistemology of Reading and Interpretation）（剑桥大学出版社）以及与斯蒂芬·格里姆、里克·皮尔斯合著的《人文哲学》（A Philosophy of the Humanities）（牛津大学出版社）。他还与克里斯·拉纳利、丹尼尔·F·布拉克合著《作者身份与ChatGPT》（Authorship and ChatGPT），并在科学主义、常识哲学、托马斯·里德以及科学与基督教信仰关系等方面发表多篇研究成果。其当前研究项目为《亚伯拉罕·凯波尔的认识论：一种创造性推进》（Abraham Kuyper’s Epistemology: a Creative Advancement）。
了解更多与AI²、IDEAS相关的学术科研信息，请点击以下链接：
2026年AI²讲座合集
2024年IDEAS讲座合集
扫描二维码 ｜ 关注我们
《人工智能与创新》（AI & Innovation，简称 AI²）学术期刊由金砖创新基地数字经济研究中心（Institute for Digital Economy & Artificial Systems，简称IDEAS）与清华大学技术创新研究中心、厦门大学人工智能研究院共同主办，并联合威立（Wiley）出版。本期刊基于AI的基础理论、工程系统、社会治理和创新生态四大战略维度，致力于在跨学科视角下全面研究智能科学发展领域，推动全球数字创新和发展研究，建立国际权威话语体系，帮助政府机构和行业制定适应数字经济发展战略。
IDEAS是依托厦大、莫大建设的前沿交叉学科研究阵地、新兴战略产业高端智库、科技成果转化服务平台、国际专业人才合作通道。在金砖国家新工业革命伙伴关系框架内，IDEAS以”数字化，为了更智慧的全球合作:全球化，为了更广阔的数字包容”(Digitalization, for a Wiser Global Cooperation, Globalization, for aWider Digital Inclusion)为理念，与各方共建国际数字经济与智能科技协同研发网络。
夜雨聆风
