AI的炙烤和灼焦的你我

AI（人工智能）现在炽热得像太阳——时刻都在核聚变的那颗火球，就算距离有冥王星那么远，都能感受到它的热量。大家都投入进来研究、讨论、使用，似乎不拥抱它，生命就会消失。

先等等，你有没有想过：AI真的达到人类水平智能了吗？真的能代替人类工作吗？AI的本质是什么？它还是工具吗？它的边界又在哪里？在这里我先把我的砖块抛出来。

AI远未达到生命级智慧

单论速度或规模，AI可能已然超越人类。很多模型的参数规模已达万亿级。任何一个问题抛给任何一个商业大模型，基本都能在1分钟左右生成上千字的形式化回答。而文思泉涌的人要写这么千字的文章，可能也要个把小时。这些大模型可能在海底或者高原部署，用专线供电，机房需要几座大楼。而人脑可能只有1L左右，每天耗费斤把大米。

要论功能，AI可能还赶不上蚊子、苍蝇，这些米粒大小的生物。比如蚊子，自主从臭水坑飞到你十几楼的家里，准确找到你露出的精肉，饱餐一顿，再嗡嗡地奏着凯歌消失在你的感知以外。目前，还没有这样一个自主确定目标、完美规划避障的机器人。小小生物的日常，仍然是大科学家的屏障。

那么AI到生命智慧，质变在哪里？答曰：在于自我意识。

人的意识仍然是一个未解之谜，并非一个可以清晰分析和界定的范本。在缺乏足够清楚范本的条件下，就等于缺乏创造超级人工智能所需的各种指标、参数、结构和原理，因此，人工智能是否能够获得自我意识，仍然不是一个可确定的必然前景。

《人工智能的自我意识何以可能》

如果有一天，AI能像人一样思考，知道“我是谁”“我来自哪里”“将要去往何处”，你再焦虑也不迟。话说回来，要是AI真具有了自我意识，将是人类的灾难，轮不到你我焦虑。

AI的本质仍是工具

1)   就AI的构造原理来看

它的根源仍是从打孔纸带读数据执行的图灵机。目前为止，人类制造了各种各样的计算机。相当有趣，第一台计算机，一栋楼那么大，debug是真的让人跑进去除去引起故障的虫子。当时大众媒体就称为超级大脑，说比爱因斯坦还快。现在，什么谷歌英伟达，隔三差五就有新的算力芯片推出，GPU、NPU、TPU轮番上阵，然而没有一个能跳出存储数据读取执行的俗套。你被时代抛弃的感觉纯来自商业宣传的效果。

2)   就AI的基本结构来看

它是人造的简化的数学模型。人工神经元是人类对生物神经元的数学抽象。该数学模型基本不可能完全描述生物神经元。迄今为止，人类对世界的数学建模，通常都是抓住主要矛盾忽略次要矛盾，描绘一个大致轮廓，有假设前提、有失效边界。好比牛顿力学对于相对论，相对论对于量子力学，各自有各自的有效范围。人工神经元互相连接形成网络也是人工的简化模型。人工区别于天然，简单讲，生物神经网络中，神经元全都是一种，还是有多种？除了分层网络这种连接形式，还有没有其它形式？除了规模这1个属性不一样，还有没有别的属性不一样？

AI的网络结构是预设的，连接的强度是学习来的，对于建造的专家都是黑盒子。那么，AI整体到底表示的什么，记录的什么？我的理解是映射或者规则，足够复杂的映射，足够复杂的规则。你可以把他看作一个拟合万物的函数，也可以把它看作聪明的模仿算法，它只是看起来像你一样思考。

3)   就AI的输入输出来看

输入问题是人提出的，目标是人设定的，起始是人激发的，这毫无疑问。而输出才是最重要的，人们使用AI，就是希望获得问题的答案。然而，最迷惑人的是：AI自己并不能理解自己输出文本的意义，意义是在人脑中产生的。AI大模型就是一只“随机鹦鹉”。

解读出的隐含语义就只是一种错觉——这种错觉完全来自于人类独有的语言理解能力，和模型本身毫无关联。和我们直观看到的表象完全不同，大模型本质上是一个随机拼接系统：它只是根据概率规则，把在海量训练数据中观测到的语言形式序列随意拼接在一起，整个过程完全不涉及任何对语义的理解。

《On the Dangers of Stochastic Parrots》

Code Agent，跟计算机自己互动，意义在计算机编译运行时产生。但是，计算机运行的结果，仍然只有对提出需求的人，才有意义，仍然只是一个长链的开环。如果把判断的规则做一个反馈Agent，则能构成闭环，一个强化学习回路。随着迭代，AI就可以学习到反馈的规则，在输出中内化这部分意义。然而，意义的主体还是人，一旦抽走闭环中的人，就啥也不是。

Agent会炼化你或同事吗？因为意义的主体在人，内化的部分，对使用该Agent的人，有100%的意义。对其他人，则不一定有100%的意义。虽然自然语言相当容易理解，然而属于专业知识的部分，还是需要一个学习的过程。好比让一个文科生去阅读一篇具体领域的科技论文，文字都是这个文字，但就是理解不了。其实这是个沟通方式问题，本来可以直接沟通（语言或文字），为什么期望用Agent转述？这难道不令人困惑吗？当然要是记性好，也可以机械背诵，暂时唬住别人。再然后呢？除非你想要的就是这个效果。

总之，无论规模有多大，输出文本看起来多么有意义，AI都没有脱离工具这一属性。本质上跟原始人手头那块石头没什么区别。AI工具目前阶段，相当于人类社会的未成年童工，虽然能工作，但它更喜欢玩泥巴，要创造更大价值，还需看后续的发展。

人类与AI怎么相处？

我们怎么看待AI，怎么和AI相处，我觉得首先是确定它的能力边界。可以从以下几个方面入手：AI不能用来做什么，AI擅长做什么，有了AI辅助后人需要做什么。

1)   不能用AI做什么？

试图给AI赋予人性，试图把AI看作人的替代，试图直接基于AI输出探寻意义，可能都会失败，这是由AI的本质决定的。

AI没有自我意识，赋予人性就会没有落脚点。打个比方，你家鹦鹉从卧室里学会了“抱抱”“宝贝好厉害”，当它说出来，你只会开心一笑，夸它真聪明。AI也一样，面对AI的输出，我们顶多也只能夸它真聪明。你要是想要它接住你的情绪聊天，我猜几轮下来你就会骂自己：什么傻X玩意儿。

AI不知道自己的输出是什么意义。就像幼儿园的小朋友，回家妈妈问：“幼儿园里中午吃的什么呀？”他能回答：“中午吃的葡萄皮炒肉。”你可能也会疑惑：“幼儿园真有这么缺德吗，吃完的葡萄皮拿去炒菜？”要不是幼儿园老师发了木耳炒肉的图片，你能想象葡萄皮炒肉是什么吗？ AI输出可能是胡说八道瞎编的，但一本正经，没有参考基本很难辨别。

AI只是根据概率规则拼接，幻觉不可避免。“随机鹦鹉”引用那段，论文也是让AI找的，我让AI原样翻译论文中第6部分。它不知从哪里生成了一段英文原文，然后翻译得头头是道。我跟论文一比较，根本没有那一段。最后我只能贴上原文让它翻译。以我的语文水平，经常同一个问题有50%的概率得不到AI的正确理解。AI可以先计算命中你本意的概率，而你却很难反向计算后再问。人的语言沟通，与双方的编码方式都有关，天生是模糊的，必须有来有回。

AI本质是工具，是人类能力的延伸，只能是辅助作用。原始人手上的石头太古老。就说我们手头就有的电脑，它已经是我们工作生活的一部分。我们用电脑能聊天、看视频，写程序，画设计图，打印文件……也可以说，电脑能做很多工作。那我们把电脑当作同事或者家人了吗？也许没有，它只是个有用的物件，做那些事情的时候就拿起来用。

2)   AI擅长做什么？

要说AI最擅长什么，那还是老三样：文本、语音、视频（图像）。诸如：人类语言间相互翻译，按照文字说明生成程序，手机上的AI语音助手，爱美女士最爱的AI修图，网上赶上专业团队的AIGC短视频……目前这3类能力已经融入到我们的工作生活中。未来将仍然围绕这3种能力扩展AI应用。

自动驾驶是AI综合落地成功商业案例。车身上的传感器越装越多，AI可以很好地处理视觉图像，并综合激光雷达等其它传感器的数据。然而驾驶可能真的需要一些分析推理能力，全面自动驾驶已经卡很久了。具身机器人跟自动驾驶汽车很多相似的地方，会是下一个前景光明的综合应用场景。

当然还有很多专业领域非常适合AI，比如气象、卫星网络、智慧城市等等，有相关科学家关照，我们普通人看新闻就好。

很多时候，AI看起来比人更会思考，这其实是我们的错觉。AI并不是真的能思考，它只是比你掌握了多得多的知识，并立刻互相联系起来。AI训练时，可以吃进去当前人类全部已知知识，训练后的AI融合了所有这些知识，并立刻能贯通起来。一些你未掌握的知识，对你来说就是启发式的，相当于推理产生。一些你已经掌握的知识，AI能立刻相互联系起来，产生奇妙的混合反应，相当于人的综合创新。

最重要的原则性一点，AI远胜于人的是规模和速度，因此拥有绝对优势的超级归纳综合能力。其余都由人脑产生。

3)   人需要做什么？

工具是人类能力的延伸。就像电脑存储是人脑记忆能力的外挂一样，AI大模型就是人脑归纳综合能力的外挂。面对具体问题，人脑归纳综合的负荷，都可以卸载给AI高效完成。这会推动人的核心分工发生转变，最终聚焦为两件事：提出问题，检验结果。

定义、决策、负责，仍然只能是人。定义问题的边界、做出关键决策、为最终结果承担责任，这些关乎价值判断与责任锚定的环节，仍然只能落实到人，这也是人类在智能协作中不可替代的核心定位。比如，机器人开发中，实际场景下机器人的安全边界如何定义，平衡进度与风险的技术路线如何抉择，现场出现硬件接口故障该谁协调资源该谁排查原因。

工具的作用是提升效率。AI提升效率后，会有更多时间休息吗？这是个相当魔幻的问题。工具促进我们的生产力越来越发达，改造自然的能力越来越强大，但是并不改进生产关系。几千年的人类社会，总共就那么几种。蒸汽机发明后，更多工人投入到矿井下挖煤，以源源不断供给能源。是当今996和007的隐喻。实际的AI作用不会是你以为的AI作用。

4)   人的学习还重要吗？

假设已经实现了理想的AI与人的分工，人就真的轻松了吗？并不会！关键问题会转变为：怎么提出问题，怎么检验结果？如果你真的脑袋空空，就真的跟一团浆糊没有区别。想象一下，如果人们只会问“你吃了吗”这种简单问题，如果单纯依赖AI输出，不加自己的判断，你怎么对付AI的胡编乱造？你绞尽脑汁，AI不费吹灰之力。好比，懂王跟彼岸的人民说，用洗洁剂清除病毒，一样荒谬。故而，人的学习仍然非常重要。

注意，AI的超能力是归纳综合。你能让它自己提出问题、检验结果，那是因为你提出的问题早有人研究过，还有很合理的结果，AI在训练时学习过。如果是一个全新的问题，AI指定给你胡说八道。当然，讨论问题之前，先看看前人的工作，是一个很好的研究习惯。让AI自己闭环的成功概率，取决于你提出的问题在整个人类有记录的知识里属于已知还是未知。

AI不知道自己知道，也不知道自己不知道。但是人类，需要知道自己知道，知道自己不知道。区别不是知道或不知道，而是知道自己或不知道自己。

最后，一千个读者，一千个哈姆雷特。我仅抛砖引玉，大家都有自己的AI认识。实践是检验真理的唯一标准，唯有——用它！