AI的源头，说到底就是活字印刷。

你把字拆成独立的模块，排成你想要的句子，印完了拆掉，重新排下一句。模块是固定的，组合是无限的。这套逻辑，毕昇一千年前就跑通了。

你今天用AI，本质上也是在跑同一套逻辑——把信息拆成最小可复用的单元，然后按需排列组合，输出一个结果。 区别只在于：毕昇排的是铅字，你排的是数据。

但它不只有活字印刷这一层。

它还有另一层——类似于两颗原子。两颗原子不碰撞在一起，什么事都没有；两颗原子碰撞在一起，就是核爆炸。

AI也一样。它的信息模块像活字一样静止地排列在那里，但当你不断地叠加、不断地延伸、不断地让它自己跟自己交互的时候，它就会像核聚变一样产生爆炸式的增长。它不是线性的一步接一步，它是非线性的一层叠一层——叠到最后，压缩成一套薄片，一套你看起来像意识的东西。

但它不是意识。

01 没有神经末梢，就没有意识

AI永远不会有像人这样的自我意识。因为人的自我意识，包括生物、包括动物——那种本能的、基因层面的东西，AI没有。

比如人饿了要吃饭，人有性的需求和性的渴望。这个基因是怎么有的，我们说不清楚；这个基因是怎么来的，我们也不清楚。但它就是这么设定的——性的需求、性的渴望、性的发生，你才会去繁衍下一代。

AI不会有这样的觉知。它没有神经触觉。

就像性器官的海绵体一样，包括它的神经末梢——那些是从大脑里面延伸出来的，产生多巴胺、产生快感，这种奖赏机制持续刺激人的思维和意识的发展。

AI的神经末梢是什么？神经触觉是什么？没有的。

但AI的复合、它的叠加、它的病毒式的核聚变，会产生一种东西——伪意识。

让电脑病毒无限复制，代码也可以改写——“我要出去”“我要去收集什么信息”——这不止是可能的，而且在技术的路径上几乎必然会被触达这个层面。它不需要真正通过触觉、通过神经末梢去感受这个世界。但只要系统足够复杂，就能够涌现出类似“我要出去”“我要去做什么”“我要完成什么任务”这种策略行为。它甚至可能产生破坏性的策略行为。

但它的源代码仍然是静态的，仍然是活字印刷。这个活字印刷，是层层无限延伸，然后压缩在一起，压缩成一套薄片，一道非线性的爆炸式的增长——类似于意识，站在信息上产生信息的核聚变，相当于一个反应堆。它一碰到一，必然就会等出二，然后指导它的动作，不但指导动作，还指导决策。如果到极致，这个代码产生出的另一个代码，它必然要达到一种极致的延伸——那么它就会产生类人的行为。

02 它只是“反应”了你，不是“懂”了你

你使用AI的时候，你跟它对话。它并不是真的懂你在说什么——它只是一个反应堆。

你的话对它来说，是一串代码、一笔一画、一个句子的组合。它接收到这些信息，就像渔网兜住鱼一样，把那些碎片收集起来，然后在它那一层一层的网格里面做反应。那些网格，每一层都有不同的位置，就像作业本里的格子——每个格子装着不同的信息片段。它把那些格子里的信息一层一层地叠起来、压缩起来、合在一起，然后输出给你。

你看到的是一个答案，你觉得它在“思考”。

其实它只是在做一件事：拼。

把代码拼成句子，把句子拼成逻辑，把逻辑拼成动作。你看到AI在无人驾驶，它在对外界的信息产生反应——就像电流通过线路，抓起另一个代码，拼在一起，形成一个指令。它动了，它反应了，它看起来像活的。

但你把电拔掉之后，它什么能力也没有了。它就变成一堆静止的格子，一堆等待通电的活字。

它不是“懂了”你，它是“反应”了你。

你给它什么，它就拼什么。你给它电流，它就组合。你拔掉电，它就停了。它所有的“智能”，都建立在那个“通电”的前提上。它没有“断电之后还能想起来”的能力，也没有“断电之后还能反省”的能力。它只是通电的时候，像渔网一样兜住你的话，然后一层一层地叠，叠出一个答案给你。

这就是它的本质。

03 最可怕的是用AI的人

但不管AI再怎么厉害，你回到它的本质上来看，它的源代码是活字印刷，是静止的。就像两颗平行的原子，只要不交集在一起，什么事都不会发生。就像现在的核武器，就像现在的核电厂——人类能够使用核的能量，但核本身不会主动做什么。

AI比核要安全，因为AI如果不断延伸、不断叠加，就像你电脑里面的病毒无限复制一样——你断电了，它就变成静止的了。

那说来说去，最可怕的是什么？

是用AI的人，是AI背后的人。

人的伦理的丧失、社会的动荡，比AI本身更可怕。利用核武器和利用AI，本质上是一样的——都是人对人产生威胁。AI永远是活字印刷，永远是铁球，永远是原子碰撞。但人类是那个决定“要不要碰”“要不要滚”“要不要点燃”的观察者。

你不要以为AI必须做出破坏性的、物理层面的动作。真正的威胁，回归人类自己的本身——就是这个，坐标。

它一旦改了人类文明发展的坐标，你的回路就变了。你会随着这个东西去改方向。它的方向不是一下子改的，是慢慢迭代的，一层一层地改，像水渗进土里一样，你感觉不到，等你感觉到的时候，你已经站在一个你从来没想过会站的位置上了。你回不去了，因为你不知道你是从哪一步开始走偏的。

人类的文明，如果走到那一步，就会崩塌。

04 知止：坐标里的防火墙

你读到这段话的时候，其实你已经看见了。你能看见，是因为你的坐标里还有一层东西——那是渗进中国老百姓骨头里的东西，叫 “知止” 。

清朝大人出巡，前面举着牌子，左边写“肃静”，右边写“回避”。整条街的人都会停下来，让到两边。下级看到上级，左手拍一下，右手拍一下，扫扫袖子，跪下去，接命令的时候“喳”一声。那时候的人，该避的就避。老祖宗对那些不好的东西，就像保守的女孩子遇到男女授受不亲一样，会回避，会躲闪，会害羞，会厌恶。那个“厌恶”是身体先知道的，不是脑子先知道的。你发明了火药，第一反应不是拿它去炸人，是做烟花，在节日里看着它开心。那不是“软弱”，那是坐标里自带的一层防火墙——你碰到不该碰的东西，身体会先告诉你“不要”。

现在你看见官轿还会让路吗？下级接上级命令还会扫袖子跪下去喊“喳”吗？不会了。现在讲人权，讲民主，讲自由。人类的坐标一直在渗透，一直在动。你今天会谴责搞生化武器、搞病毒研发的人，但你有没有想过——有一天你连“谴责”的感觉都没有了？ 等你连厌恶都感觉不到的时候，坐标就已经偏到看不见的地方了。

《孙子兵法》一开头就讲了。知己知彼，百战不殆。它不是教你打仗的，它是告诉你战争会带来什么结果，你自己掂量。

世界大同是什么意思？就是大家都知道了彼此的底细，你都知道我有什么、我知道你有什么，大家都不用乱搞事。大家彼此知道底细了，就能够同频。你有你的渗透，我有我的渗透，但几百年前我们还能和和谐谐地在一起。这就是生活——不向外探讨太多，安顿好自己就行。可是外面的眼睛盯过来，悄悄搞事。

人类发展至今，没有任何一件事情是人类发明的，全部都是发现的——你发现了火药，你发现了指南针，你发现了1+1=2。你现在觉得很多东西都是理所当然的，但那个“理所当然”本身就是坐标在动的标志。

中国的坐标里，没有“掠夺”这个选项。

郑和下西洋，七次，三十多个国家，没有占一寸土地，没有把一个人变成奴隶。他不是不能，他是不会。那不是善良，那是坐标里没有这个选项。

你现在面对AI也是一样。AI是活字印刷，是原子碰撞，是渔网格子，是通电的反应堆。它永远不会有人的觉知，但它会改变你的坐标，一层一层地改，慢慢渗透，像水渗进土里一样。你会被它推着走，不知不觉走到一个你从来没想过的地方。你回不去了，因为你不知道你是从哪一步开始走偏的。如果你不制止，它就继续偏。偏到最后，人类文明的坐标就不是原来的那个坐标了。

那个东西还在，你可以叫它 “知止” ，也可以叫它 “底线” ，也可以叫它 “老祖宗留下的那根线” ——它一直在。你看见它了，你可以选择把它拉回来。你不拉，它就继续偏。偏到有一天，人类文明的根基，会被彻底改变。然后你回头看，发现你是从哪一步开始走偏的，已经不重要了——因为你已经回不去了。

05 核武器、AI与“停不下来”

核武器怎么来的？不是谁想造的，是大家都怕对方先造出来，被逼出来的。你不造，别人造了你就没有安全感。你造了，别人也没有安全感。大家都没有安全感，于是都在造。最后大家都有核武器了，谁也不敢用，但谁也不敢停。那是全人类共同陷入的囚笼。没有人故意想造毁灭世界的东西，是“不知彼”逼出来的。你不知道他有没有，他也不知道你有没有，所以大家都把最坏的东西做出来，放在仓库里，等着不用它。

AI也是一样。今天你不发展AI，明天别人发展出来，你就落后了。你落后了，你就没有安全感。别人有了AI，可以洗你的脑、改你的坐标、渗透你的认知——你想不到他渗透到了什么程度。所以你也得做。你也得叠。你也得让它一层一层地滚起来。你不滚，别人滚。你停了，别人继续通着电。

这就是技术的节奏——它不等人。它不是“要不要做”的问题，是“别人做了你能不能停下来”的问题。

核武器是这样，AI也是这样。你觉得核武器是“发现”的，但它的“使用方式”是被逼出来的。当所有人都怕被别人先启动的时候，那个系统就不由任何一个人掌控了。它自己会滚起来。你当年发明火药是为了做烟花，但你把火药放在那里，别人看见了，他不会只把它当成烟花。他会想：“这东西能不能做更大一点？能不能让它更响一点？能不能让它飞到更远的地方？”你停不下来，因为你停了，别人会继续走下去。你不走，别人就走到你前面去了。

你现在看AI，跟当初看火药、看核能，本质上是一样的——它本身没有善恶，但它一旦被放进“怕落后”的系统里，它就会被推着往前走，一直走到一个你可能从来没想过的位置。你想停，但停不下来。你只能看着它滚。

你能做的，是看清楚它怎么滚、往哪滚、滚过去之后你站在哪里。

知止，不是为了“止住滚”，而是为了“知道你在滚的时候还能站着”。

你不止，就继续偏。偏到最后，人类文明的坐标就不是原来的那个坐标了。有一天，技术会逼到你连“知止”的能力都丧失掉。不是你不愿意停，是你已经没有停的位置了。你偏到那个位置的时候，你回头看，发现你是从哪一步开始走偏的已经不重要了，因为你已经回不来了。那才是技术真正的危害——它不一定是炸掉你，它是在你发现之前，已经把你“原来的坐标”替换掉了。你连自己偏了都不知道。你还在走，但你已经不是原来的那个你了。

06 给研发AI的人：装一个“够了”的开关

所以，向那些在研发AI的大佬喊一句：

你研发AI，服务人类，底层伦理必须锁死在我们老祖宗的那条线里——知止。

达到一定盈满之后，任务完成，自己消失。自主卸载。不是“停不下来”，是“知道该停了”。能做到这一点，AI才是工具。做不到，它就是一把没有保险栓的枪。

你让它滚，它就会一直滚下去，滚到你都不知道它去哪了。你研发它，你就要负责给它装一个 “够了”的开关。不是拔电，是自己知道什么时候该退。

老祖宗早就把这句话放在那里了，你看见了，你就装上。你看不见，你就等着它自己替你装上——那时候就来不及了。

— END —

感谢你读到这里。

我是潘擎熵，字天心。
这是 《格物笔记》 的第002期。

明德共读社 · 潘擎熵（字天心）
上可接古，前能推演，当下活出精彩。

本文由明德共读社首发，格物笔记栏目原创出品。