ARTICLE · 1311492
杂谈|当AI越来越像人,人类会不会反而越来越不像人?
杂谈|当AI越来越像人,人类会不会反而越来越不像人?点击👆蓝字，一起唠嗑 最近，DSH的各种插件带来的ai账号，正在让围绕人工智能的讨论发生某种变化。 
过去，人们更关心人工智能能不能替代人类完成工作，能不能写文章、编程、绘图，能不能在棋盘上战胜人类。如今，这些问题似乎已经无法吸人眼球。 越来越多的人开始问：人工智能会不会产生自己的意识？它有没有可能形成自由意志？它提供的情绪价值究竟算不算真正的情感？如果人工智能在知识、创造和情感等领域都逐渐接近甚至超越人类，那么人类究竟还剩下什么不可替代的东西？ 这些问题看起来是在讨论人工智能，实际上却是在重新讨论人类自身。
一个颇具争议的观点是：人工智能的发展可能已经逐渐超出了人类程序员的理解和控制范围。 过去的软件开发，基本上遵循一种相对清晰的逻辑：人类提出需求，编写代码，设计算法，检查运行结果，再根据问题进行修改。即使程序非常复杂，其基本的设计和修改过程仍然掌握在人类手中。 但是，人工智能的发展正在改变这一过程。 当AI开始参与代码编写、算法优化，甚至辅助设计和改进自身的模型时，问题就变得复杂起来。据传，前OpenAI的程序员就曾表示，不再能够完全理解每一次迭代究竟发生了什么，也未必能够准确预测模型在复杂环境中的全部表现。 于是，一种所谓的黑箱开始形成。 有人据此提出：如果人工智能能够在相对独立的环境中不断进行自我改进，那么它是否有可能在这个过程中产生某种自由意志？ 当然，不受人类直接干预，并不意味着不受外部影响；无法被人类完全理解，也不意味着已经拥有独立意识。 人工智能的训练目标、模型结构、数据来源、计算资源和运行环境，仍然来自人类建立的技术体系。即使它能够进行复杂的自我优化，也不能直接证明它已经摆脱了最初的约束。 但不可否认，我们过去习惯于认为，只有人类能够理解和设计的东西，才具有明确的目的性。而当一个系统开始表现出超出设计者预期的复杂行为时，人类是否还能够坚持认为，它只是一种完全透明的工具？ 一个新的认识困境出现了：人类创造了一个自己无法完全理解的系统，却又必须依赖这个系统继续认识世界。 人类很难不思考自由意志究竟意味着什么？是能够独立行动，是能够自主设定目标，还是能够对自己的行动进行反思？ 如果这些能力可以逐步拆解、模仿，那么人工智能是否有一天能够具备其中的某些部分？ 至少现在，我们还没有一个能够令人信服地解决这一问题的答案。
与自由意志相比，另一个变化可能来得更加直接。 越来越多的人发现，人工智能在提供情绪价值方面，已经表现出相当强的能力。 它能够耐心倾听，能够回应人的抱怨，能够理解对话中的情绪变化，能够在适当的时候给予鼓励。它不会因为疲惫而拒绝交流，也不会因为心情不好而突然对你发脾气。只要你愿意，它就可以不断回应你的情绪需求。 这似乎正在改变人与人之间的关系。 社会普遍认为，人际关系需要理解、包容和沟通。但现实中的人际关系恰恰充满了不确定性。别人可能不理解你，可能不愿意听你说话，可能因为自己的利益和情绪而与你发生冲突。甚至有时候，你需要花费大量精力去维持一段关系，却未必能够得到相应的回应。 相比之下，AI似乎提供了一种更加稳定、低成本、可预测的情绪交流方式。一个AI比现实中的某个人更愿意倾听你，更善于理解你，也更能够提供你需要的情绪价值，那么你为什么一定要选择那个真实的人？ 当然，反对者会认为，这种比较本身就存在问题。 因为真实的人际关系并不只是情绪价值的交换。一个活生生的人有自己的生活、欲望、利益和判断。他可能喜欢你，也可能不喜欢你；可能愿意帮助你，也可能拒绝你。正是这种不确定性，构成了人与人之间关系的真实基础。 一个人真正面对另一个人时，必须接受对方并不完全按照自己的意愿行动。而AI的特殊之处在于，它可以在很大程度上围绕使用者的需求组织回应。它可以模拟愤怒、嫉妒、失望和喜悦，却不意味着它真的承担了这些情绪流露之后的代价。 换句话说，AI可以让你感受到被理解，却未必真正经历了理解你所需要的东西。 不过，我认为也不应该因此简单否定人与AI之间的情感联系。 如果一个人在孤独的时候，通过AI获得了安慰，那么这种安慰对他而言就可能是真实有效的。不能因为提供安慰的一方不是人类，就认为接受安慰的一方没有产生真实的情绪体验。 
问题在于，情感体验的真实性，与情感关系双方的主体性，并不是同一回事。 人类对AI产生的依恋可以是真实的，但AI是否具有与人类相同的情感体验，仍然是另一个问题。 更值得警惕的是，如果人类越来越习惯于一种随时得到回应、几乎不会遭到拒绝的关系，那么我们是否会逐渐失去与真实的人相处的能力？ 毕竟，真实的关系从来不只是获得满足，也包括忍受差异、接受拒绝、处理冲突，以及承认另一个人并不属于自己。而无论社会如何原子化，人类社会能够存在的前提是人。
人工智能还有一个颇为有趣的现象。 它似乎正在表现出一种与传统技术发展不同的能力分布：在某些极其复杂的知识领域取得突破，却在一些日常生活场景中表现得并不理想。 例如，在数学、编程、科学研究和复杂信息处理领域，人工智能能够帮助人类解决一些过去需要大量专业知识和时间才能处理的问题。比如对千禧年数学问题的破解，对古罗马文献的破译。 但是，如果让它独立完成快递分拣、货物搬运、家庭清洁、复杂环境中的物品整理等工作，问题就会明显增加。 在数字世界中，信息可以被复制、计算和处理。一个数学问题可以通过形式化语言表达，一个程序可以在相对确定的环境中反复测试。 但现实世界充满了偶然性。 一个快递包裹可能被压扁、浸湿或者放在不规则的位置；一间房屋的物品摆放可能完全没有规律；一个机器人需要在不断变化的环境中识别物体、判断距离、控制力度，还要处理各种意外情况。 这些任务看起来简单，却要求系统具备复杂的感知、运动和环境适应能力。 与此同时，还有一个最重要的问题——并不是所有事情都值得使用AI。 
如果某项工作本身回报有限，而人工劳动的成本又相对低廉，那么即使技术上能够实现自动化，也未必具有经济上的必要性。 因此，人工智能的发展并不必然意味着所有劳动都会被同等程度地替代。 目前来看，AI首先集中于那些知识密集、价值密集、计算密集的领域，而一些低利润率的劳动仍然由人类承担。 这就产生了一个有些可悲的局面： 人工智能主要承担知识生产、技术创新和复杂决策，而人类仍然被留在低回报率的劳动领域。 人类究竟是在获得解放，还是正在被重新安排到一个更加狭窄的位置？ 技术进步本身并不自动带来自由。 如果技术创造的生产力最终不能转化为人的自由时间和自主能力，那么人类完全可能在拥有更强大工具的同时，继续受到原有社会关系的限制。
对于人工智能是否具有创造力，存在两种截然不同的看法。 一种观点认为，人工智能目前所表现出来的创造力，本质上仍然是对既有知识和信息的统计、整合与重组。 它能够在庞大的知识空间中寻找规律，能够生成过去没有出现过的组合，也能够在某些领域通过大量计算找到人类难以发现的答案。 但这不等于它真正产生了思想。 例如，一些科学和技术问题之所以能够被人工智能解决，是因为问题本身可以被形式化，可以通过搜索、计算、优化或者大量实验找到答案。 这种能力固然强大，却未必意味着它具有真正意义上的思想创造。 按照这种观点，人类仍然拥有某种独特的创造能力：人类不仅能够在既有知识体系中寻找答案，还能够质疑问题本身，改变认识世界的方式，甚至创造出一套全新的问题体系。 但是，人类的创造力真的有那么神秘吗？ 
人的思想同样建立在神经元的活动之上。人的记忆来自过去的经验，人的知识来自学习和社会交往，人的想象也离不开既有经验的积累和重新组合。 一个人提出新理论，往往也需要阅读大量文献、吸收前人的成果，在已有知识的基础上不断推演。 那么，人工智能通过训练数据学习规律、建立联系、重新组合信息，与人类通过学习和经验形成思想，究竟存在多大的本质区别？ 如果我们认为人类的思想是神经元活动的结果，那么为什么不能认为人工智能的思想也是复杂计算过程的结果？如果人类的创造力只是某种尚未被充分理解的神经活动，那么我们又凭什么预先断言，机器永远不可能拥有类似的能力？ 我认为，这个问题不能仅仅通过比较两者的运算机制来解决。 因为即使人类的思想最终能够被解释为神经元活动，也不意味着思想的社会意义、历史意义和创造意义就因此消失了。 一个人的思想并不是孤立发生的。它与他的身体经验、生活处境、社会关系、历史环境以及现实实践密切相关。 人类创造思想，不仅是在已有信息之间建立新的联系，也是在现实世界中遭遇问题、承受矛盾，并试图改变自身处境。 人类和AI是否采用了相同的底层机制并不是问题的关键，它们是否具有相同的存在条件，以及是否能够形成相同的实践能力才是真正需要讨论的问题。 我们没有充分理由认为这两者已经没有区别。我们也没有充分理由认为这种区别永远不可能缩小。
人工智能正在不断向过去被认为属于人类的领域扩张。 它可以写作，可以编程，可以分析，可以创作，可以提供情绪支持，甚至能够参与科学研究和技术创新。 而人类似乎正在面对一种新的处境：过去用来证明自身独特性的能力，正在逐渐变成可以被机器部分复制的能力。 于是，人们开始不断寻找新的界限。 但是！ 如果人类必须不断通过证明自己比机器更有价值，才能证明自己值得存在，那么我们是不是已经在不知不觉中接受了机器的评价标准？ 当人工智能可以比人类更快地计算、更高效地写作、更准确地处理信息时，人类是否就必须在这些方面不断竞争？ 当AI能够提供稳定而廉价的情绪价值时，人类是否就必须证明自己比AI更值得被爱？ 当AI能够完成越来越多的知识工作时，人类是否就必须不断寻找新的领域，以证明自己仍然具有不可替代性？ 如果答案是肯定的，那么人类实际上已经陷入了一种新的竞争关系。 我们开始按照机器擅长的标准衡量自己，按照效率、产出、准确性和可替代性来评价人的价值。 但人类生活本来就不应该只有这些东西。 一个人可以没有卓越的创造力，可以没有出色的计算能力，可以不具备高效率，也可以不在任何专业领域取得成就。 一个人仍然可以拥有生活，可以体验世界，可以建立关系，可以犯错，可以犹豫，可以浪费时间，可以做一些毫无功利价值的事情。 这些东西并不因为AI能够完成更高效的任务而失去意义。 如果生产力的提高最终只是让少数人掌握更多资源，让大多数人承担更加激烈的竞争，那么AI越强大，人类的处境未必就越自由。 这不是一个单纯的技术问题，而是一个社会关系的问题。 回到最初的问题：AI会不会产生自由意志？它能不能真正拥有情感？它有没有可能形成独立的思想和创造力？ 人工智能的发展可能会不断突破我们现有的认知边界。今天我们认为不可能的事情，未来未必不可能；今天我们认为只有人类才能完成的任务，未来也未必仍然如此。 这些不必急于回答。 但是，人工智能究竟能够发展到什么程度，与人类如何组织自己的社会、如何分配技术进步带来的成果，以及如何理解自身的价值，始终存在密切关系。 因此，更值得思考的是：人类为什么一定要把自己理解为一种需要不断证明自身优越性的存在？ 
如果未来AI真的能够拥有某种形式的意识、情感和创造力，那么我们需要重新思考人类与其他智能存在的关系。 如果未来AI始终没有这些能力，那么我们也需要认真思考，为什么人类会如此容易把情感和思想的需求寄托在一个机器身上。 这两种可能性，都指向了同一个问题：人类如何理解自己。 技术可以不断突破边界，但人类不能因此放弃对自身生活的思考。 也许，真正值得担忧的并不是某一天AI终于变成了人，而是在那一天到来之前，一部分人类已经习惯于把自己变成一件工具。 当AI开始追问自己是谁的时候，人类或许更应该追问： 我们究竟希望自己成为怎样的人？
一、当AI开始自己改进自己：黑箱中会不会产生自由意志？
二、当AI比人更懂得安慰人：情绪价值究竟意味着什么？
三、AI能够解决最困难的问题，却未必能够做好最普通的事情
四、人类的创造力，真的与AI有本质区别吗？
小结 真正值得担忧的，也许不是AI变得像人，而是人类逐渐变成工具
