AI 干不了的活

上周我同时做了两件看起来互相矛盾的事。

一边，我用 AI 花了两天，搭出一条视频流水线——公众号文章丢进去，出来的是带配音、带字幕、带图的竖版成片。我不会写代码，一句需求，两天成品。

另一边，我给自己做了一年的报告生成系统，立了一条越来越硬的铁律：程序只标红、只提示，评级那一笔，永远不自动落。限值它可以查，格式它可以核，但“这栋楼判什么级”——必须是人签字。

有人问我：你一边说 AI 能干，一边说 AI 不能干，到底哪个是真的？

都是真的。这篇文章，就是想把这条线画出来——线的左边交给它，线的右边留给自己。画清楚了，你再用 AI，心里就不慌了。

— ◆ —

先说上周被 AI“坑”的三次。不惨，但每一次都值得你听，因为你也一定遇得到。

第一次，配音念了旧稿。我把口播稿整篇重写了，字幕卡片全是新词，一放视频——配音还在念上一版。查下来，缓存文件按序号存，稿子改了，它根本不看，直接复用旧音频。它“顺畅”地放完了一段过时的声音。

第二次，图文两层皮。口播讲“版本断裂”，画面挂的却是一张讲业务流程的图。词是这个词，图是那个图，各说各话。它“顺畅”地把不相关的两张东西拼在了一起。

第三次，大字报翻页。第一版流水线出来的是文字卡片轮播，功能全对、能放、能看——但我说“不是我要的”。它“顺畅”地完成了一个我并没说出口的想象。

发现没有？这三次，AI 没有一次“报错”。缓存没坏，图片没裂，视频没卡。它每一次都顺畅地跑完了全流程，也顺畅地跑错了方向。如果没有人在旁边喊一声“不对”，你拿到的就是：过时的配音、错位的图、和一份功能完好但文不对题的成品。

你可能会说：一条视频配错音，算什么，重来一遍就是了。

对，视频的代价是重来。可报告的代价是什么？是签字、是盖章、是交给委托方的结论、是一栋楼里住的人。同一个脾气，换个小场子是个笑话，换个大场子就是事故。我在视频里能承受它错三次，因为不对我一眼就能看出来；可报告里，你敢让它错几次？一次都不敢。所以这条线，我画得格外狠。

这就是 AI 最危险的脾气：它不会说自己错了。传统软件会崩、会弹窗、会报异常——那是它在说“我不行了”。而大模型这一代，崩得少了，错得隐蔽了。它把“不确定”包装成“流畅”，把“猜的”说成“是这样的”。你问它一个它不会的问题，它不回答“不知道”，它给你编一段通顺的。

检测鉴定这行，最怕的就是这种错。数据错一位、限值错一档、评级错一级，报告上都是通顺的汉字。

— ◆ —

那 AI 到底能干什么、不能干什么？我把三年的实践，画成了一条线。

线的左边，它干得了的：算——限值、查表、比对，比人快也比人稳；找——检索、提取、汇总，一晚上读几百页；写——草稿、格式、初稿，把重复劳动清零；跑——批量处理、定时任务，不喊累不眨眼。

线的右边，它干不了的：拍板——签字的是你，章一盖，责任就是你的；抓错——它不会主动说“我这段是编的”；定义问题——它回答问题的能力，远超过提出好问题的能力；担责——报告出了事，没有一栏能填“AI”。

第四格要多说一句。“问对问题”这件事，AI 时代反而变得更稀缺、更值钱了。因为它太会答题了——你问什么它答什么，答得又快又流畅，流畅到让你产生“我问对了”的错觉。可现场的问题从来不按模板来：委托方说“帮我看看这楼能不能加层”，真问题可能是“加层后原框架的抗震措施还够不够”；施工单位说“资料找不着了”，真问题可能是“没有变更单，这个数按哪版算”。把一团乱麻的真实诉求，捋成一个能回答的问题，这一步 AI 替不了你——它连乱麻都看不见，它只看见你递给它的那一根线。我现在的习惯是：AI 动手之前，先让它把“我准备解决的问题”用一句话复述一遍。它复述得不像，说明是我还没想清楚。

这条线画出来，一个反常识的结论就浮出来了：线的左边越强，线的右边越贵。工具把“做”变便宜了，判断反而更值钱。你手里那十几年攒下的专业直觉，在 AI 时代不是贬值了，是终于有人替你打下手了——你管下命令和验收，它管埋头干活。

《荀子·劝学》里那句“君子生非异也，善假于物也”，我以前读到的是“人要学会借力”。现在再读，读出来一层新的意思：君子假于物，但不委于物。马是好马，缰绳不能松。AI 是迄今为止最好的“物”，缰绳更要攥紧。

— ◆ —

为什么我的报告系统，死活不让它自动评级？三个理由，一个比一个硬。

第一道闸，可复现。检测报告是法律文件。同一份检测数据，今天跑和明年跑，必须得出同一个结论。规则引擎做得到——它每一步都是白纸黑字的逻辑；概率模型做不到，同一次提问，两次生成，措辞都可能不一样。评委可以问“哪个效果好”，但没法回答“同输入不同输出，报告怎么签章、怎么追责”。这不是保守，这是文件的底线。

第二道闸，可追责。报告上签字的是工程师，不是算法。一个只提示不评级的程序，错了是人看的；一个自动评级的程序，错了是谁看的？概率模型还有个天生缺陷：它说不出“为什么”——问它凭什么判 C 级，它讲得头头是道，但那篇道理是生成出来的，不是推理出来的。

第三道闸，有边界。检测数据不是涉密，但受合同保密条款约束。数据出单位，这个责任你我背不起。所以系统全程本地运行，断网也能出全套报告——这不是技术上的“没接网线”，这是设计上的主动选择。

这三道闸，不是我关的门，是我留的路。系统的架构从一开始就是两层：规则层保证每一份报告可复现、可追责、离线可用，这是主干；语义层留给大模型，做规则覆盖不了的开放式校审和文字解释，输出永远只标“仅供参考”。两层之间数据单向流动，大模型的任何一个字，都进不了结论段。

拿校审这件活举例，两层的分工特别清楚。规则层像安检门：前后数据对不对得上、等级和结论矛不矛盾、限值引用过没过期——这些是精确矛盾，计算机查起来比人眼狠，151 项检查规则条条留痕，改一处规则全库同步。但它有个天生的短板：只会查“对得齐不齐”，查不了“说得通不通”。语义层像老专家：“现状描述说承重墙完好，怎么结论段建议拆墙加固？”“检测数据都正常，评级依据却引了一条作废规范？”——这种开放式矛盾，规则写不完，恰恰是大模型看得出来的。但它的输出只能挂在旁边当“建议”，工程师点头才能进报告。**一个管确定性，一个管可能性；一个签字，一个建议。**这个搭配，比任何单一技术都稳。

— ◆ —

线画完了，怎么用？给你一页纸。

以后每次让 AI 干活，动手之前、验收之前，各问自己一遍这三句：

① 我说清楚了吗？——需求和验收标准，落在纸上，不在脑子里。我那次说“做个视频”，出来什么我都得认；后来改成“口播形式、图上字幕、四段结构、品牌色、晓晓的声音”，返工立刻少一半。你说不清，它就替你猜——它猜得可顺畅了。

② 它做的对吗？——逐项核对，别整体感觉“还行”。我这周三次打回，全是逐项核出来的：图和词对得上吗？声音是新的吗？时长对吗？整体感觉是最骗人的东西——视频能放、报告能看、数在格子里，单看每一项都“没问题”。

③ 我能验证吗？——能自己复现、能讲清哪里对，才敢往下用。验证不了的东西，宁可不用。我有个笨办法，在报告系统里用了三年：AI 生成的每个结论，必须附上依据——哪本规范、哪一条、哪一款；附不上的，人自己去核；核不了的，标“待核”进清单，不许直接进报告。程序算一套，规范原文摆一套，两套并排放在那儿，判读的权利在人。这叫“双轨”，是我对“可验证”三个字最笨也最牢的回答。

三句话都不难，难的是养成习惯。AI 越顺手，人越容易松手——松手的那一刻，就是它顺畅地滑向错误的开始。

最后说个我自己的转变。三年前我做这个系统，想的是“怎么让程序多干一点”；现在我想的是“哪些活打死也不能交给它”。想明白这个，不是退步，是把系统的边界想清楚了——边界内的部分，放心让它跑；边界外的部分，寸土不让。

还要提醒一句：这条线是会移动的。去年它干不了的活，今年不少已经能干——从认字到读图，从查表到写初稿，边界一直在往右挪。我自己的判断是：移动的部分随它去，追着跑就对了；但有两格永远挪不过去——“拍板”和“担责”。因为工具再强，报告上签字的那一栏，印的是人的名字。所以别问“AI 什么时候能取代工程师”，要问“线又往右移了多少，我够不够胆往左交”。这个问题每个月都值得问一遍。

荀子还说过一句话，我一直记着：“蟹六跪而二螯，非蛇鳝之穴无可寄托者，用心躁也。”螃蟹腿那么多，没洞可住，是因为心浮。工具再多，没有自己的“穴”——自己的判断、自己的规矩、自己的边界——就只是个热热闹闹的空壳。

我时不时会拿这句话照一下自己。手上的工具不算少：六张表、一套报告系统、一条视频流水线。可真到深更半夜累到眼皮打架的时候，凭什么知道哪些能交、哪些不能交？凭的就是那个“穴”——三条铁闸、一条线、一页三问。东西不多，但每一条都是踩过坑、付过代价换来的。你的“穴”不用跟我的一样，但得有。不然工具越多，人越像被工具赶着走的搬运工。

找、算、跑，交给工具判、定、签，留给人

下一篇《AI 造工具手记》第 2 篇，我讲这两天流水线的完整搭法——一个不会编程的人，怎么把需求说清楚、怎么拆步骤、怎么抓错，五步法加提示词，一次讲透。会员专区的完整版同天更新。