AI可以生成文档,但谁来为工程结果负责?

AI越擅长生成看似正确的文件，使用者就越需要知道自己在检查什么。否则，它只是让错误变得更完整，也更像正确答案。

这是我编制无人装载机每日点检表时，最深的体会。

一张点检表，牵出一套文件体系

起初，我以为这只是一项很具体的工作：把操作与维护手册转换成现场人员每天可以逐项打钩的表格。

无人装载机有一本厚厚的操作与维护手册。现场人员很难随手翻查。他们需要的是一张可以直接使用的表格：每天检查什么，什么时候检查，怎样判断是否正常，发现异常以后如何处理。

我和技术团队一起编制了这张点检表。然后让AI把点检表与手册逐项交叉核对：每一项要求是否有出处，检查频率、验收标准和异常处理是否与手册一致。

核对结果比我预期的更有价值。它找出了一些我没有注意到的地方：有的要求分散在不同章节，有的表述需要进一步明确，还有一些我以为已经说清楚的内容，落到现场表格时才发现需要更具体。

比如，同样是“检查某个安全装置”，每日点检只需要确认它状态完好、没有被遮挡或损坏；功能测试则要验证它真正起作用，必须按规定周期进行，不能每天人为触发。这两件事在不同章节里都有提到，只看到“检查”二字，很容易混在一起。

这也让我想到一个更普遍的问题：以后技术要求发生变化，手册改了，点检表可能需要同步修改，安全事件记录和定期维护要求也可能受到影响。如果文件分别维护，时间一长，版本不一致几乎是必然的。

于是，问题不再是“怎样做一张表”，而是：

怎样建立一套统一、可追溯、能够持续更新的工程文件体系？

每项要求只定义一次

我的思路是：每一项工程要求只定义一次，赋予唯一编号，再明确它应该出现在手册的哪一章、哪一张检查表、哪一类记录里。

这份“要求总表”，就成为所有文件共同的要求源。

我和AI围绕这个思路讨论，最后形成了一套相互对应的文件：一份要求总表、一版更新后的手册，以及日常点检、启动前运行检查、安全停车事件记录和定期维护四张现场表格。

这套做法本质上是一个轻量级的“需求追溯矩阵”：每项要求唯一编号，定义一次，映射到手册、点检表、记录表和维护计划。它解决的是版本一致性和变更影响分析问题。

以后某项工程规则发生变化，不必再依靠人的记忆判断应该修改哪些文件。通过要求编号和映射关系，可以直接找出受影响的章节、表格和记录，再进行一致性检查。

我追问：“还能更高效吗？”  

它最后告诉我，再增加文件和管理层级，就可能变成为了管理而管理。

这和我的判断一致。

效率不是流程越少越好，也不是体系越复杂越专业，而是在严谨、可追溯和不过度管理之间找到平衡。

在这件事里，AI的价值在于核对、比较和映射：它帮我发现表与手册之间的差异，并把分散在文件和讨论中的要求对应到统一编号下，让整套文件更容易追溯和维护。

这比单纯提高写作速度重要得多。

AI处理复杂度，人承担责任

但这并不意味着我可以退出。

AI有时会理解偏差，会把不同场景下的要求错误合并，也可能为了让表格看起来简洁而省略必要条件。面对大量内容时，它还可能漏掉项目，或者让不同文件之间出现细微但重要的差异。

所以，我必须逐项确认技术要求是否准确，检查文件之间是否完全对应，判断检查频率是否合理、验收标准能否执行、异常处置是否符合系统的真实能力。

拿不准的技术问题，还要交由工程团队确认。

边界很清楚：

AI可以提取、比较、映射和生成；人必须定义规则、处理冲突、确认事实，并为最终结果负责。

写普通文章出错，改几个字就可以。

但对于大型工业车辆，文件中的一项要求，可能直接决定设备能否启动、何时必须停车、人工如何介入，以及发生异常后怎样处理。

AI只能依据我提供的材料作判断。某项功能是否经过充分验证，哪些现场情况没有写进文件，它都不知道，也不能替公司决定应该接受什么风险。

最终签发什么文件、采用什么标准、允许设备在什么条件下运行，只能由人来决定。

即使使用能力更强的模型，遗漏和过度简化也不能被完全消除。要提高可靠性，仅靠升级模型不够，还需要可追溯的要求体系、逐项覆盖核对和人工审核机制。

AI放大的，是经验和判断

这件事也让我看到一个结构性变化。

过去在大公司，这类工作由不同部门分工完成：有人定义规则，有人编制表格和手册，有人核对要求、管理版本。小公司没有这样的配置，很多事需要一个人亲自做。

AI正是在这样的处境下派上了用场。它没有替代我的经验，而是帮我把经验转化为具体成果：我定义规则、文件关系和不能忽略的风险，它处理信息量、核对版本、提出差异、协助起草。

这可能才是AI对资深从业者和小公司的真正意义：

它不是简单替代一个岗位，而是在放大一个人的经验、判断和组织能力。

从文件到物理世界，责任链是同一条

如果文件出错，是工程要求出了问题；如果无人装载机在现场出错，则可能是车辆的动作出问题。

后果的量级完全不同，但背后的责任链是同一条。

这也是我们在这个项目中一直面对的问题。

装载机的工作环境并不完全固定。料仓和投料口的位置相对确定，但料仓内物料的数量、料堆的形状和状态，以及周围环境，都在不断变化。

车辆需要识别料堆，判断从哪里下铲，控制铲斗完成铲料，再规划路线前往投料口。

这是半结构化环境中的非结构化物料作业，也是具身智能需要面对的典型场景。

语言模型说错一句话，可以让它重新生成。

车辆在物理世界里作出一次错误判断，却不能简单地“重新生成”。

所以，我们一方面尽可能利用AI技术和自动控制系统，让车辆感知环境、识别状态并执行任务；另一方面，也必须让它始终在明确的安全边界内运行。

我们的设计原则是：一旦环境、定位或系统状态不满足安全条件，车辆应进入安全状态并等待人工干预。

AI和控制系统参与环境感知、状态识别和任务执行；人负责定义运行规则、验证系统能力并划定安全边界。

从一张点检表到一台无人车，这条责任链没有改变。

结语

具身智能走向工业应用的难点，不只是提升感知和决策能力，还要把这些能力放进一套可追溯的工程体系、明确的安全边界和清晰的责任链中。

AI可以放大经验，但不能替代责任。

那么，一个在屏幕里看起来如此聪明的AI，进入物理世界以后，为什么仍然会遇到这么多困难？今天的具身智能究竟走到了哪一步，距离真正可靠的工业应用还有多远？

下一篇，我想继续写一写这个问题。