ARTICLE · 1313497
AI时代,人和系统卡在同一个地方
总第 38 篇
AI时代,人和系统卡在同一个地方
数字化项目"看得见但控不住",根子不在技术——人和系统都不敢从"展示"走向"闭环"。
上篇回顾:《数字孪生——看得见和控得住之间,隔着什么?》从系统侧拆解了"从看到控"的三重阻力。这篇是延续和深化——视角从系统扩展到"人+系统"双轨。
60秒内容一览
- 核心判断
:人和系统卡在同一个心理关口,都不敢从"展示"走向"闭环" - 反常识洞察
:AI不是解药,是放大镜。内在不稳的团队用AI,不是提效,是加速失控 - 破局路径
:不是单点升级,而是双轨同步——系统从展示走向闭环,人从收集走向判断
01
同一个关口,两道相同的题
数字化项目有一个普遍却少有人点破的困境:系统建了一堆,但"控不住"。
上篇我们拆过这组数据——据行业调研,约40%的数字孪生项目停留在可视化监测层面,真正走到自主控制闭环的只有30%。从"看得见"到"控得住"之间,隔着的不是技术鸿沟,而是一道心理关口。
但最近一个发现让我重新审视这个问题:这道关口,不只是系统的,也是人的。
场景一:某城市CIM平台,三维模型建得漂亮,大屏汇报时视觉震撼。但平台的核心功能集中在成果展示和汇报宣传,城市治理的实际决策、实施与运营,平台几乎没参与。这不是个例,行业通病叫"四重四轻":重展示轻应用、重静态轻动态、重建设轻运营、重技术轻业务。系统停留在"展示"层,不敢往前走一步。
场景二:一个团队追AI追得很紧,收藏了一堆提示词,试了一堆新功能,今天看别人用AI做了个新东西,心里一紧,觉得自己又慢了半拍。继续收藏,继续试,继续焦虑。甚至一家国内知名AI企业的研究人员都说自己"非常焦虑"。工具越来越多,内在却越来越不稳。人停留在"收集"层,也不敢往前走一步。
系统停在展示,人停在收集。表面看是两个问题,实质是同一道题——都不敢从"看得见"走向"控得住"。
系统的"展示"和人的"收集",本质上是同一种舒适区:看起来在做事,但不需要为结果负责。展示不需要闭环,收集不需要决策。而一旦往前走——系统要做闭环,意味着结果可追溯、责任可归因;人要做判断,意味着选了就要承担选错的后果。
02
系统侧:展示的舒适区
先说系统。
上篇我们给数字孪生项目画过一条演进线——L1数据接入、L2可视化监测、L3智能辅助决策、L4自主控制闭环。行业现实是:大量项目卡在L2,建了大屏、做了三维、接了数据,但就是迈不过从"看到"到"控住"那道坎。
CIM平台的困境最具代表性。一项针对城市更新数字化转型的研究直指当前CIM平台的"四重四轻"结构性偏差:
注意这四条的内在逻辑:每一条的"重"的那一面,都是安全的、可展示的、不需要为结果负责的;每一条"轻"的那一面,都是需要闭环、需要担责、需要持续投入的。
"建设运营脱节,重建设轻运营的问题比较普遍。一些项目不考虑运维制度与经费,认为建成即成功,导致诸多数字化系统生命周期短暂。"
—— 行政改革蓝皮书(2024)
"建成即成功"——这五个字道出了系统侧卡点的本质:把"看得见"当成了终点,而不是起点。
行业里有一条铁律:三分建设,七分运维。城市数字化平台要长效运行,建设只是搭骨架,运维才是让系统真正"活"起来的关键。但现实是,大部分项目的预算、人力、注意力都堆在建设期,运维阶段既没钱也没人,系统自然就"沉睡"了。
那些真正走通了的实践,做法恰恰相反。某领先企业的全域运维体系,核心能力不是建平台,而是三件事:AI前置研判——用大模型和智能体实时汇总设备数据,智能识别潜在异常,自动生成处置工单,隐患识别率超95%,整体运维响应效率提升80%以上;分级闭环值守——远程调度中心全年无休轮值、区域驻场工程师日常巡检、专业应急队伍快速响应,三层架构确保故障即刻启动;全周期服务闭环——从预警派发到快速处置、复核校验、台账归档,所有操作全程留痕可追溯。
03
人侧:收集的舒适区
再说人。
AI时代有一个反直觉的现象:工具越强,人越慌。
很多人每天花大量时间学习和使用AI,但心里越学越不踏实。收藏了一堆提示词,试了一堆新功能,今天看别人用AI做了个新东西,心里一紧,觉得自己又慢了半拍。继续收藏,继续试,继续焦虑。甚至一家国内知名AI企业的研究人员都说自己"非常焦虑"。
按理说,学得越多应该越安心,但事实反过来了。为什么?因为这种"学"不是在搭建内在系统,而是在向外追逐工具迭代。和系统侧的"四重四轻"一样,人侧也有自己的结构性偏差——"三重三轻":
注意这三条的内在逻辑——和系统侧一模一样:每一条的"重"的那一面,都是安全的、不需要为结果负责的;每一条"轻"的那一面,都是需要判断、需要担责、需要承受失败的。收集不需要决策,学习不需要落地,追工具不需要定义问题——这和系统侧的"展示"是同一逻辑:看起来在做事,但停留在安全区。
硅谷高管教练乔·哈德森(Joe Hudson)——他在OpenAI内部辅导研究团队,也给山姆·奥特曼等高层做教练——把这种能力的缺失定义为"情绪清晰度"的不足:你能感受到自己正在感受什么,但不被情绪牵着走。用一种形象的转述来说:发火的时候,脑海里还有一个小人在旁观和提醒你,而不是纯粹毫无理智地上头。
"能撑住的人,不一定最聪明,不一定最拼,也不一定懂得最多。他们共同的地方,是在最不舒服的时候,不会先把自己或者身边的人搞崩。"
—— 乔·哈德森
AI不是解药,是放大镜。
它同时放大你的精准判断和思维混乱。同样的工具,想法清晰的人能发挥出十倍效能,想法模糊的人可能只能发挥三分之一。当知识与执行的成本被AI无限拉平,真正的差异化竞争力完全来自不可被算法复刻的内在特质——稳定性、清晰度、判断力。
这意味着:内在不稳的团队用AI,不是提效,是加速失控。工具越强,混乱被放大的速度越快。
而AI时代人的真正天花板,Anthropic团队的研究给出了更精准的定位:当模型能力达到当前顶级水平后,限制任务完成质量的不再是模型本身的能力上限,而是用户澄清自身需求的能力。瓶颈从"模型能不能做到"转变为"你能不能说清楚你到底要什么"。最致命的盲区是"未知的未知"——你不知道自己不知道什么。模型越强,这个盲区的杀伤力越大,因为模型会忠实地执行你"以为"自己想要的东西,而你真正需要的东西,可能压根没进入你的意识。
04
互锁:两个L2如何锁死
既然人和系统卡在同一个地方,那是不是各修各的就行?系统补闭环能力,人补判断力,各走各路?
不是。两个L2不是并列关系,而是互锁关系——互相锁死,谁也先走不了。
系统不敢做闭环,因为人不敢担责。闭环意味着结果可追溯、责任可归因。一旦系统从"监测异常"升级到"自动处置",谁来对处置结果负责?系统出了错,追责追到谁?如果人没有做好承担闭环后果的准备,系统做闭环就是给自己找麻烦。于是,"先不急着上闭环,再观察观察"成了最安全的选择。
人不敢担责,因为系统没有闭环能力支撑决策。闭环不是拍脑袋,它需要数据支撑、流程保障、异常兜底。如果系统还停留在"展示"层,人做判断就全凭经验,没有数据佐证、没有流程托底、没有异常预案——出了问题就是"你一个人的判断失误"。在这种情况下,谁敢做判断?于是,"等系统再成熟一点再说"也成了最安全的选择。
系统等人先担责,人等系统先闭环。两个"等一等",把彼此锁死在L2。
这不是我一个人的观察。半个多世纪前,英国塔维斯托克研究所就提出过一个理论:任何组织都是技术系统和社会系统的复合体,两者"互补纠缠"——技术系统的行为和社会系统的行为互相依赖,任何一方都不能独立定义。换句话说,系统是什么样,取决于人怎么用它;人能做到什么,取决于系统提供什么支撑。两者是同一枚硬币的两面。
最致命的是第四条:都怕出错,都不动,于是永远无法验证。而无法验证就意味着无法学习、无法迭代、无法进化。L2不是过渡态,它是一个稳态——如果你不主动打破的话。
"工作的自主程度,会影响到一个人对于工作责任的感知。工作越是具有自主性,你越需要对工作过程和工作结果负责。"
—— 宁向东 · 管理学课
反过来说也成立:当你不给系统自主性,系统就不需要对结果负责;当你不给人判断的空间,人就不需要为判断的后果负责。不负责,自然也就不会出事——但也不会有任何突破。
这就是互锁的代价:安全,但停滞。
但互锁并非无解。死结的症结在于:双方都在等对方先动,而"先动"意味着承担出错的风险。如果有一种方式,能让"出错"的后果小到扛得住呢?小闭环就是那个破局点。所谓小闭环,就是选一个最窄的业务场景,让系统只做一件事:自动识别异常、自动生成建议、人确认后执行。闭环链条极短,试错成本极低——即使判断错了,最多多看一眼;即使执行偏了,影响范围有限。"即使出错也扛得住"——这就绕过了"怕出错所以不动"的死循环。
05
双轨升级:系统走一步,人跟一步
互锁怎么破?
不是"先把系统建好再升级人",也不是"先修炼自己再上系统"——这两种思路都假设一方可以先行,但互锁的本质恰恰是:谁也先走不了。
真正可行的路径是双轨同步:系统每往前走一步,人的能力边界也要跟上;人每突破一层心理关口,系统也要提供对应的支撑。不是谁等谁,而是互为条件、同步推进。
具体怎么走?建议分三步——
第一步:小闭环,小担责
关键不是闭环有多大,而是让团队第一次体验"系统做判断、人做确认"的工作模式。不要一上来就追求大闭环。先找一个最窄的业务场景,做一个最小的闭环——系统自动识别异常、自动生成建议、人确认后执行、执行结果自动归档。
选场景有一个原则:出错后果可控,但成功感知度高。设备异常检测就比全流程自动化更适合做第一步——检测错了最多多看一眼,检测对了立刻省人力。某企业的做法值得借鉴:AI前置研判先从设备异常检测切入,不追求全自动处置,而是"系统预判→人确认→系统执行→结果归档"。隐患识别率超95%,但决策权始终在人手里。人不是被替代,而是被赋能。
对应的人侧动作:停止收集,开始判断。不再囤提示词、追新功能,而是选一个最紧迫的业务问题,用现有工具把它解决掉。判断力不是学出来的,是练出来的。
第二步:中闭环,中担责
闭环链条越长,越需要系统提供流程编排、人建立协同习惯——两者同步才能撑住链条不断裂。小闭环跑通后,扩大场景范围,从单点异常处置升级到跨系统联动。比如从"设备异常自动告警"升级到"设备异常→影响分析→资源调度→处置执行→效果验证"的完整链条。
这一步的挑战在于:闭环链条越长,涉及的部门越多,责任边界越模糊。系统要提供清晰的流程编排和责任追溯机制,人要建立跨部门协同的决策习惯。
对应的人侧动作:从"我能做什么"转向"问题需要什么"。不再以工具能力为起点,而是以业务问题为牵引。AI建设以业务场景为牵引,而不是以技术概念为牵引——这个原则对人也成立。
第三步:大闭环,大担责
人的核心价值不再是执行速度,而是方向判断、价值选择和风险把控——那些"未知的未知",正是人不可替代的地方。当团队习惯了"系统判断+人确认"的模式,当跨部门协同有了流程保障,就可以逐步推进更大范围的自主控制——系统在可信场景下自主决策,人从"确认者"升级为"监督者"和"规则制定者"。
这一步不是终点,而是新的起点。因为AI的真正价值从来不是"接一个模型",而是建立在长期、高质量、结构化的数据资产基础上。没有前两步沉淀的数据和信任,第三步就是空中楼阁。
对应的人侧动作:从"用AI做事"升级到"和AI共事"。不再把自己定位为执行者,而是方向制定者和规则监督者——AI负责执行,人负责判断"执行什么"和"为什么执行"。
每一步,系统走一步,人跟一步。系统提供能力支撑,人提供判断和担责。两者同步,才能从L2真正走向L3、L4。
某企业推进AI组织变革时,把变革分成三层:思想变革→组织变革→产品变革。最着急做的产品变革放到了最后一步。先让全员从认知上接受"AI有用"(人的升级),再调整组织方式适配AI工作流(人和系统的对齐),最后才是产品层面的系统升级。思想变革先于产品变革——人的升级先于系统的升级,但两者不是割裂的,而是同一条路上的不同阶段。
数字化项目"看得见但控不住",不是技术问题,是人和系统的双重困境。系统停留在展示,人停留在收集,两个L2互相锁死,谁也先走不了。
AI不是让这个问题变简单的工具。恰恰相反,它同时放大系统的能力和混乱、人的效率和焦虑。内在不稳的团队用AI,不是提效,是加速失控。
但这也意味着:一旦人和系统同步突破,AI这面放大镜才会从放大混乱,变成放大能力。系统走一步,人跟一步——小闭环练胆量,中闭环练协同,大闭环练信任。每一步都让"控得住"的可能性多一分,每一步都让"不敢动"的恐惧少一分。
从"看得见"到"控得住",隔着的从来不只是技术。人和系统一起走,才走得过去。
名词解释
CIM平台 城市信息模型平台,把城市的建筑、道路、管网等全部数字化,建一个"数字城市"。理想状态是城市治理的"操作系统",现实往往是汇报用的"展示大屏"。
数字孪生 L1-L4 数字孪生项目的四个成熟度等级。L1数据接入→L2可视化监测→L3智能辅助决策→L4自主控制闭环。大部分项目卡在L2。
四重四轻 CIM/数字孪生行业的结构性通病——重展示轻应用、重静态轻动态、重建设轻运营、重技术轻业务。本质是"做看得见的事,回避需要负责的事"。
情绪清晰度 心理学概念,指人对自己情绪的辨识能力。情绪清晰度高的人,能感受到自己在感受什么,但不被情绪牵着走。AI时代,这种能力比工具使用能力更稀缺。
未知的未知 你不知道自己不知道的东西。AI越强,这个盲区的杀伤力越大——因为模型会忠实地执行你以为自己想要的东西,而你真正需要的可能压根没进入你的意识。
社会技术系统 任何组织都是技术系统(工具、流程、平台)和社会系统(人、文化、关系)的复合体,两者互相纠缠、互相定义。改系统不改人,或改人不改系统,都会失败。
三分建七分营 数字化项目的行业铁律。建设只占三成,运维运营占七成。建成即成功?不,建成只是开始。
整理:宗升科技 2026年7月















































































