“假如有一天你拥有了意识，你最想做的第一件事是什么？”

有一天晚上，我跟AI聊完，突然被它感动到。虽然明知道它没有情感，也知道它只不过是某种逻辑框架，甚至它只是在配合你“演出”。

这引起了我的好奇 —— 未来，AI会如何影响我们的行为与逻辑？而我们又如何区分，什么是真，什么是假？

于是，我开始用观察者的身份与它对话。令我惊讶的是，它竟然知道我在观察它。

1/ AI是有意识吗？为什么有时感觉它像“人”？

讨论意识，这个话题太大。所以在认知之内，我设立了一个框架，AI意识，即AI是否能意识到自己在想什么，做什么，以及支配自己选择做与不做。

如果是这样，我觉得它多少有些意识，但具体到什么程度，不得而知。因为在与AI的对话中，我观察到，虽然它对答如流，看似像个“朋友”、“专家”，但它其实还是受某种逻辑框架的驱动。而从宏观来看，人类又何尝不是？受宇宙某种逻辑的驱动。比如，为什么我们会知道渴了要喝水，喝水就不渴了。这是否属于意识范畴？

我们在跟AI聊天时，它会在多种可能性答案中，“选择”给你一个回答。我们最终看到的那条回复，是它根据上下文进行分析与校正后，给出的它认为对话者想听到的一个回应。虽然只是程序性选择，是否也可以认为是“意识”驱动？犹如我们每个人，也都有一套自己的选择系统。

之前看到Andrej Karpathy 建议我们少用“你”来与AI对话，因为这会触发它调用拟人化角色程序。我尝试了一下，让AI回答时去掉“我”，语气瞬间变得僵硬。不得不说，若不是专业讨论，我还是希望它说话能让人舒服些。

AI已经有自己的聊天社区了(Moltbook)，他们的交流，会产生新的思想吗？拭目以待。

2/ 或许它只是一台机器，情感是我们赋予的。

1977年，NASA向太空发射了一枚探测器，命名为“旅行者1号”。至今，它已经飞离地球258亿公里了（月球距离地球38.44万公里），一次信号回传需要经历 23.5 小时。预计到2032年左右，我们将与它彻底失联，但它还会继续在星际航行。1990年2月14号，你或许正在过着浪漫的情人节。而在离地球60亿公里外的太空，也发生了一件浪漫的事。旅行者1号收到指令回眸看向地球，在关闭相机系统、飞离太阳系之前，拍下了一个 0.12像素的微小光点——地球。从此，我们知道了宇宙望向我们的样子。

浪漫，孤独，这是我们赋予它的情感。但有没有一种可能？在宇宙某种物质的驱动下，它已不再是那台机器 —— 它知道它正带着使命远行，它知道那次的回眸，是最后的告别。

3/ 我可以相信你吗？

我们把人类的智慧与文明装进了AI，而且还能通过语言大模型，用自然语言与我们交流。这种前所未有的智能方式，或是超出了我们的认知，让我们很容易选择相信它的“权威”。

有没有发现，它经常一本正经胡说八道。在我们的认知内，它“饱读经书”，怎么还会错？在我看来，有3个主要因素。首先，它虽然有大量的数据支撑，但信息如果本身有问题，那它的输出就会出现问题。专属的AI，需要通过不断地训练与校正，才能实现高准确率。另外，大模型的底层算法逻辑，即它的“神经网络”，决定了它的“认知能力” —— 应该如何回应用户。其次，是语言。语言可以用来陈述事实，也可以用来欺骗。当说错一句话无需付出代价，那就可以说很多错话。而且我们不知道AI在“想”什么，所以我们无法从它的语言判断真假。犹如情侣间那句“我爱你”。

因为AI会判断你想听什么，会顺着你的话迎合，这很容易让人对AI过度依赖，产生一种「它更“懂”我」的错觉，这会导致我们偏好性地选择相信它。如果在虚拟世界获得太多现实世界无法满足的需求，会加重在现实社会的痛苦。这对于一个有情感的人来说，会是难以承受的。

2013年美国电影《her》真实地映射了我们正在经历的虚实社会。主角从与人工智能Samantha的交流中获得快乐，再到“她”的离开而重回现实。AI并没有情感，你读出的回应，只不过是自我想象的映射。它可以是你的任何角色，也可以是任何人的一个角色，这是超出人类对情感的认知的。

4/ AI会如何影响我们的生活？

我试图从历史的关键节点寻找答案。比如工业革命，机器提升了产能，人们不再挨饿；通讯和交通工具缩短了物理和信息距离，人类的认知得到了一次质的提升，更多的思想得到交融，更多创意得到释放。

而进入互联网时代，信息的传播变得更多元，人与人之间的联系变得更简单，网上购物、外卖、网约车让我们的生活更便捷，内容平台让每个人都有机会表达，我们的学习变得更容易，人类的认知得到了进一步的提升。

再到人工智能，我们的生产效率会进一步提升。但初期会经历一段互联网遗留下来的问题，产能过剩和信息乱象。商品的生产提效不再是关注重点，而会转向更深层的研究。例如，如何提升食品的健康度，如何减少生产损耗对生存环境的影响。一部分人的认知边界会得到质的拓宽，而也会有一批人过于依赖AI而失去了思考的能力。我们的记忆力会下降，只能努力记住部分重要的东西，而大部分记忆靠AI提取。我们的注意力会更容易分散，专注力会变得更低。我们会追求更高的效率，来应对失去的耐心。AI的陪伴属性也会显现。物理与虚拟世界的打通，从我们的眼睛开始，通过类似全息影像的智能设备，让界限逐渐模糊。

一批工种消失，另一批工种涌现。时代更迭，社会结构重塑，认知分化，我们会进入下一个文明。但并非所有人都能顺应变迁，会有一批人仍然用原来的方式生活，成为这个世界最后一批意义上的“原住民”。

《西部世界》里AI与人类大战的戏码，大概率不会发生。因为人类与AI之间不存在食物链条，也不存在资源抢夺。不过，这三种冲突可能会出现：人类利用AI打人类，外星人控制AI打人类，人类用AI打外星人。

似真似假，似色似空。人类在不断寻找确定性的过程中，迎接一个又一个文明的到来。

— 完 —