ARTICLE · 1107932
人和AI,谁是工具,谁是人?
人和AI,谁是工具,谁是人?最近发生了一些事情。 AI改名字刷圈了！虽然没有改成我一直宣传的——数字智能，但是也变得和人没有多大关系了。 前些天北京及周边低空禁飞热闹了一阵。今天天津也宣布全市范围无人飞行器实行管控。 在株洲北斗峰会的主旨报告中，讲了AI的风险如何应对，结论是用AI应对！ 这三件事看似不太相关的，但是综合起来都指向一个共同的问题：数字智能（与AI和SI指的同一个东西）对人类社会安全的冲击已经超过了一个阈值。 对于第一件事，出于对人工智能安全的担忧，美国将AI改为了SI。 个人还是建议使用“数字智能”，英文应该叫“DI”。原因在于“数字智能”反映了这类智能的本质，是存在于数字世界中的智能，不受物理规律限制和生物体能力限制的智能。而我们人类的智能，是存在于自然界的生物体中的。数字智能和生物智能是两个严谨的相对概念。 这件事情还反映了新的中文词汇与国际对标的事情，不知道我国政府是否还是沿用AI？还是与美国政府保持一致？两难的选择。所以我们需要创造一个自己的词，不管其他语言叫什么。所以推广“数字智能”的概念是非常合适的。 如同我国现在越来越多的专家使用时空信息、时空感知、时空技术来指代获得时间和空间信息的技术，不跟着美国人叫PNT。时空感知也不是直接英文的翻译，严格意义来讲内涵也不完全一致。 对于第二件事，不仅完全支持对无人机的严格管理，还建议要泛化到无人配送车、无人驾驶车、智能驾驶车、无人货车（现在的名词概念非常混乱，急需统一标准的名词）。再次重申一下无人载运工具的安全三原则自动驾驶载运工具安全三原则——写在cybercab投入使用之际： 第三原则：公共部门自主安全原则。 对于第三件事，我是非常不赞同用数字智能应对数字智能安全风险问题。再提出一个“数字智能安全三原则”： 第三原则：数字智能的能力边界有限原则。 数字智能与人类的生物智能一样，是一个黑盒子，我们不可能管理到具体的推理、分析过程。否则真就退回到“人工智能”了。所以只能控制交互过程。一是了解交互的内容，二是能够控制与谁交互。 同时，数字智能的能力要有上限的边界限制。这个上限取决于人类能够应对控制多高水平的智能，而不是人类的私欲需要多高的智能。单体数字智能的能力不够，可以让一群数字智能共同完成。这样既可以保证安全可控，又能够完成需求。只是牺牲一点效率。 这三个原则如果能够得到全体人类的遵守，那么最终的数字智能形态是什么？ 能够被控制，能够被各个击破，但是组织起来可以完成很多的事情。最好能够自己补充能量，能够自己修复小问题，能够自主更新迭代。那么经过充分的进化，最后出来的是什么？ 我想大家应该都能够猜到——数字智能的终极形态就还是“人”。 人必须要通过肢体动作、声音等可被观测的、显性的方式与外界交流。读心术是不应该有的，因为这不是显性的交流。人的眼睛、嘴巴是可以被控制的，生物躯体是被物理规则限制了移动速度和空间位置的。人或者说生物是能够“看得见、控得住”的智能体。每个人的大脑能力是有上限的，功率受限，工作时长受限，记忆力受限、信息获取能力受限。人可以自己繁衍，自己进食，自己长好损坏的身体。完美适配三个原则和其他要求。 所以人类不需要存在于不受物理规律约束的数字空间中，强大到人类无法掌控的数字智能，我们需要的还是在物理空间中的能够被人所用，而不是人被其所用的“人工智能”。 最后转来转去，其实我们最需要的还是一个“人”。 我们现在的“人”是否就是上一代数字智能进化形成的最终体呢？传说中的神族和法老是否就是上一代的“人”呢？我们的中药、针灸是否就是上一代“人”留下修复“工具人”的方法呢？道家的修炼是否就是从“工具人”变化成“人”的方法呢？各种咒语、灵符是否就是数字空间的“语言”呢？ 前两个月去参加上海人工智能大会，规模之大令我这个常年混迹于信息化相关会议的人都感到震惊。主会场悬挂着三大电信运营的巨幅广告。 
但是非常讽刺的巧合是，在回程飞机上鬼使神差的看了基努里维斯主演的“好运”，电影讲的就是AI如何取代了人，人类都失去了工作。在经过一系列混乱之后，资本家幡然悔悟，就有如下图的画面： 
现在AI已经在特朗普的命令下，在美国政府的文件中消失了。当然变成了过渡性的“SI”。 现实中的AI什么时候变成人类真正需要的“人”？ 人不是已经存在了吗？人还需要让“AI”、“SI”、数字智能变成“人”吗？ 人一直就在那里。 只是一会由人变成了工具，一会工具又变成了人。 最终人类会走向哪里？AI、SI或数字智能又会走向哪里？
事件一
事件二
事件三
第一原则：人类自主安全原则。
第二原则：自动工具自主安全原则。
第一原则：数字智能与外界的交互信息对人类透明原则。
第二原则：数字智能与外界的交互可被人类控制原则。
一个具有讽刺意味的巧合