AI不能做什么①|王峰:人工智能会痛吗——或论人工智能的根本性“不能”

点击蓝字 关注我们

Society & Science

目前本刊只接受

《广州大学学报（社会科学版）》网站投稿。

请收藏唯一真实官网地址：

https://xb.gzhu.edu.cn/skb/CN/home。

原投稿邮箱journal@gzhu.edu.cn

为编务邮箱和应急邮箱。

原创文章，未经授权，谢绝转载，如需转载请留言。

点击下方查看：

投稿须知|《广州大学学报（社会科学版）》

总览｜《广州大学学报（社会科学版）》2024-2025年目录

总览｜《广州大学学报（社会科学版）》2022-2023年目录

王峰

（华东师范大学传播学院、中文系联聘教授）

在我们深入研究人工智能的根本性“不能”之前，必须对讨论的范围进行明确的界定，否则我们将陷入一个无边界的议题海洋。我们通常认为，人工智能缺乏身体，这似乎是人工智能的一个根本性“不能”。然而，身体这一概念是相当宽泛的，例如，具备感知能力的具身智能是否拥有身体？这将是一个难以解决的问题。同样，心灵、心理、意识等概念也具有广泛的含义。人工智能是否拥有意识？这无疑是一个充满争议的问题。我们需要一个更为具体的情境作为研究的起点，以探讨人工智能的某种根本性“不能”。最终，这并不预示着我们将会得出关于“人工智能意识”或“人工智能身体”的肯定或否定结论，但这并不妨碍我们将人工智能定义为一种智能的存在形式。我们可以以“疼痛”这一主题为切入点，探讨人工智能是否需要具备仅为人体所需的能力。或许，人工智能的“不能”并非本质上的无法实现，而是从工程角度出发的不必要考量。所谓“疼痛”，指的是生物体对于外界刺激的反应以及可以用语言表达出来的感受。需要明确的是，此处的“疼痛”,所探讨的并非对生物属性的考察，而是一种语言哲学意义上的考察，根本上是对概念内涵的讨论，最终所引向的是对人工智能“疼痛”概念和工程的反思。

在自然界中，人类与动物均具备感知疼痛的能力；然而，通常认为植物并不具有这种能力，原因在于它们的感知机制与动物存在显著差异。尽管在特定情境下，我们倾向于认为植物能够体验到疼痛，但这种观点更多是一种比喻性的表达，即将植物人格化，与动物进行类比。

当我们深入探讨疼痛与意识之间的联系时，不难发现，疼痛的本质首先是一个语言学问题。这并不否认身体反应的存在，而是强调这些生理上的反应需要借助语言作为媒介，才能在自我意识中获得明确定位。否则，我们仅会体验到一种直接的痛觉，并本能地做出逃避行为——这种反应在动物界可以观察到。然而，人类之所以能与其他生物区分开来，关键在于我们能够对这种自然反应进行语言上的反思和分析，并将这种分析整合到我们对世界的认知之中。正是这一过程，使得人类的世界观与动物的世界观截然不同：动物的行为主要是本能驱动的，而人类的行为则是在自我意识的指导下进行的。

因此，在探讨是否能够体验到疼痛时，一方面，我们是在确认一种生物学上的反应；另一方面，我们也在使用语言来定义“疼痛”在我们身体与世界互动过程中所扮演的角色，以及它所引发的一系列连锁反应和行为。疼痛的存在与否，并非仅仅是一个简单的生理感知问题，它是身体感知与语言行为的综合体，构成了人类疼痛的独特性质。

那么，人工智能是否具有感知疼痛的能力？这一问题不可避免地与人类对疼痛的体验紧密相关。我们始终明确地认识到，所谓的人工智能，本质上是对人类智能的一种模拟。让我们做一个假设：倘若我们能够在人工智能领域成功模拟人类的疼痛感知，那么我们便在实质性的模拟进程中迈出了关键一步。这要求我们构建一个因果关系网络，在此基础上，通过各种程序设计手段复现该结构，并对结构间的相互作用进行复杂的程序设计，以达成可控制的结果输出。这是人工智能模拟的核心理念，与图灵所奠定的开创性思想相接续。当然，在人工智能的发展过程中，这一方式需要根据实际情况进行调整。

图灵所构想的测试被其命名为“模仿游戏”。然而，审视当前人工智能的发展水平，此测试似乎更接近于一种替代性的游戏。更确切地说，这是一种效果上的替代游戏，即在设计中，通过深入分析人类的行为模式及其构成要素，设计出特定的人工智能程序，以实现其输出结果与人类输出结果的等效性，从而在效果上实现替代。

让我们沿着人工智能疼痛的道路再行进一段。假设我们构建一个具有人类形态的通用人工智能，其外观与人类无异，手指的反应也与人类一致。当其手指受到重击时，会感受到疼痛，并对此疼痛作出反应。在人类中，这是一种神经反应：手指的神经感受到剧烈的疼痛，将这一感觉传递至中枢神经系统，由中枢神经系统指挥身体回避撞击，并对疼痛作出反应。这些都是相互交织在一起的。但对于人工智能而言，似乎无需复制这样的完整运行机制。例如，它无需为每一寸皮肤设置触觉神经，并由大脑中枢控制，我们仅需在其手部配备感应器与直接控制装置。该系统能够作出即时反应：一方面，通过回避性的手部动作展现；另一方面，将信号传递至中央处理单元，以便中央处理单元指挥身体执行相应的回避动作。尽管这一工作机制与人类的生理反应机制存在差异，但它同样能够实现外在行为的展现。因此，我们可以将此类机制称之为“代现”或“替代”机制。然而，我们有理由质疑，除了满足人类好奇心之外，此类设计是否具有其他实际应用价值。

模拟生物复杂性是一项极具挑战性的任务，因为它不仅涉及工程学和程序设计领域，还涵盖了材料科学以及更为精细的生物科学。若人工智能意欲模仿人类的各种功能，它必须依赖于材料科学的持续进步，以实现对生物系统的广泛而精确的模拟。然而，这些模拟若要达到较为逼真的效果，其工程成本将是巨大的。可以预见，如果继续沿用当前的工程方法进行人工智能模拟，那么失败的代价将十分明显。当然，我们应当认识到，模拟并非对原样的完全复制，而是程序设计与材料科学相结合，对人类生物复杂性、结构及其结果进行的模拟。设计与生成之间的矛盾要求我们必须在创造性和实用性之间找到平衡点，这不仅是一个技术问题，也是一个哲学问题。我们的造作有多“自然”，模拟的工程量就有多巨大。我们不仅需要在结构上构建模型，还需对结果进行控制。只有这两者的结合，才能实现真正意义上的人工智能模拟。从技术层面而言，彻底的结构性重建既不经济，也不符合当前技术发展的实际可能性。

人工智能在模拟人类结构时，总是以结果为先导，因为只有通过这样的结果呈现，才能真实地复制人类行为。因此，所有的结构设计都必须以这样的结果输出为导向，这不可避免地削弱了结构本身原有的先行意义。我们必须确保人工智能在结果上能够复制出人类各种自然的反应。然而，在这一过程中，人类本身的复杂性被简化了。人类的身体和意识是一个错综复杂的系统，如何协调这一系统的各个部分，是一个艰巨的挑战。毕竟，人类作为一个整体系统其本身还未得到完全揭示。模拟它的每一部分以及它们之间的协调，无疑是一个更加宏大的系统工程，目前我们还无法达成这一目标，只能通过实现其中的某一部分功能来逐步推进。

探究具备疼痛感知的人工智能，不仅是对科学本质的深入探索，也是对人类生活及人工智能发展的深入理解。这无疑是科学研究领域中最具魅力的方面。然而，我们亦需承认，在目前设想的人工智能发展与设计过程中，不可避免地要采用人类的有机体视角来解释工程性问题。这种倾向甚至在科学技术与工程研究领域也广泛存在。

我们正处在一个将人工智能视作可实现的技术手段的时代。在这一过程中，我们不仅致力于赋予人工智能以人类能力的复杂性，同时也在创造具备人的能力特征的智能实体，这不可避免地赋予它人的特性。无论是GPT4、Gemini、DeepSeek，还是具身智能，都因实现了人的某些功能，才被贴上人的能力的标签。

此类塑造不仅表征着技术上的突破，更关键的是，它激发了文化领域对人工智能潜力的无尽想象，并将其与通用人工智能相提并论。实际上，这一过程不仅是技术发展的自然演进，还预示了文化层面的转变，并伴随技术的不断进步而重塑我们对人工智能的文化认知。因此，这并非仅仅是技术的夸大或误导，而是一种文化的先声，它随着技术的持续发展而不断演进，塑造人工智能在我们文化中的形象和地位。

尽管这一形象存在一定的误导性，但它具备显著的指导意义。它不仅为技术发展指引了方向，还激发了社会各方面的广泛关注，包括文化提升与商业资金的投入。随着人工智能技术的持续进步并逐渐进入公众视野，它所引发的不仅是对技术领域的遐想，更多的是对未来通用智能的构想。这种构想，虽然根植于现实技术的进步，却超越了现实的界限，引领我们迈向更为广阔的未来世界。

从此观之，我们不难发现，众多人工智能技术实际上是对人类某些能力的巧妙模拟。然而，这种模拟并非以完整的人类形象呈现，而是以多种多样的形式展现。例如，自动驾驶技术并不需求一位外观与人类相似的机器人坐镇驾驶，它仅需将自动巡航系统嵌入汽车内部。同样，阿尔法狗无须具备人形外观，它只需能够展示棋盘并预测对手的下一步棋即可。

若我们审视“疼痛”，便会发现这一议题对于人类与人工智能而言，具有截然不同的意义。在人类的体验中，疼痛似乎是一种负面的、不受欢迎的存在，然而它实际上扮演着一种保护性的角色，促使人类避开潜在的危险，从而避免致命的伤害。疼痛的传递机制，不仅涉及神经的作用，还可能涉及其他生物机体的功能，但不可否认的是，神经系统在疼痛传导过程中起着至关重要的作用。

某种程度上，我们已经假定人工智能具备类似于神经系统的构造。例如，人工智能对外界刺激的感知必须传递至其处理核心——类似于人脑的区域，以便对所有感知数据进行分析处理。在这些感知中，既涵盖了对外界的基本反应模式，也包括了模拟人类因疼痛而采取的逃避行为的反应。这些反应均是经过计算和处理得出的。人工智能是否需要经历与人类相似的疼痛过程，才能产生类似的反应？答案是否定的。人类的疼痛与生理反应紧密相关，这种下意识的行为，是自然界赋予我们的本能。然而，人工智能的反应，无论其复杂性如何，哪怕能够通过学习不断优化其行为模式，都仅限于其预设的反应框架内。相较于人类的疼痛反应，这些反应显得相对简单。

人类所体验的疼痛并不仅仅是生理层面的反应，它还蕴含着深刻的社会和文化意义。在众多情境中，疼痛的反应既包括直接的生理反应，也融合了心理层面的抑制或驱动力。例如，出于各种原因而选择掩饰真实的情感，这种行为我们称之为疼痛的掩饰。然而，人工智能似乎并不具备这种掩饰疼痛的能力。即便我们构想出一种能够模拟疼痛表现的人工智能，其实际应用价值又何在？除了可能造成我们自身的误解之外，它又能为我们带来何种益处呢？

人类所具备的基本能力，在很多情况下，并不需要在人工智能领域中进行复制，因为这些能力在实际应用中往往并不具备显著的效用。在人工智能的发展过程中，实用性是我们必须优先考虑的因素。因此，当我们以“有何用途”为标准审视人工智能时，我们便能明确地辨识出清晰的脉络。这种方法犹如一把锋利的刀刃，直接穿透了复杂且混乱的人工智能与文化交织的问题核心，使我们能够清晰地识别出哪些是次要的人工智能构想，以及哪些是人工智能潜在的发展趋势。

从这一视角来看，即便出现了外观和行为与人类相似的通用人工智能，其智能水平在某些方面已经超越了人类，然而，我们同样会发现，这种所谓的通用型人工智能与人类个体之间仍然存在根本性的差异。因为对于它而言，一些看似不可或缺的元素实际上是可有可无的，如疼痛等。这些因素都是基于人类功能的应用性而设计的。

与人类相比，人工智能的“不能”之处数不胜数，因为与整体性人类机能相比，人工智能无论怎样都是某种功能或某些功能结合体的展现，部分功能的强大无法掩盖整体性能的缺乏。而且无论如何，似乎都没有必要开发一种与人类无异的通用人工智能。目前看来，这种需求似乎并不十分迫切。从本质上讲，我们只要将人工智能与人相融合就可以了，这一融合并不是肉体意义上的，而是协作意义上的。如果我们一定要将人与人工智能进行实体上的区分，并且指认出人工智能存在诸种“不能”之处，这的确是实际存在的，但对于有效的人机协同而言，诸种“不能”似也不会产生什么影响。我们与人工智能一道做事，不断将人的智能外化给人工智能，从而大幅提升工作效率，这应该就足够了。至于人工智能是否产生意识，是否觉醒乃至于反人类，大可以放给科幻去让观众惊惧。未来几十年的发展，只能由工程性建设铺就。人工智能的各种“不能”最好是工程可以解决的“不能”，否则或者是明见的，或者是偏离方向的，并不能真正推进人工智能的真正之“能”。

新媒体排版：柴清轩

初审：董开栋

复审：罗海丰

终审：陶东风

 https://xb.gzhu.edu.cn/skb/CN/1671-394X/home.shtml