夜雨聆风工厂老板问了一个很诚实的问题：你们说 AI 能分析异常、能给出建议、能辅助决策——但万一它想错了呢？它胡说的话，产线怎么办？
一个做设备的朋友跟我说，他们最近接触了一家 AI 公司。
对方说自己的大模型能看懂设备数据，能分析异常原因，还能自动调整参数。听起来很厉害。但朋友问了个问题："如果它判断错了呢？"
对方沉默了。
这不是个假设性问题。工业生产里，一个错误的参数调整可能意味着一整批产品的报废，或者设备停机数小时。互联网产品出错了可以回滚，产线出错了没有"回滚"这个选项。
所以问题很直接：你的产线 AI 助手，真的敢让它直接改参数吗？
大模型很强，但它不适合独自做决定
先搞清楚一件事：大模型擅长什么？
它擅长理解语言、整合信息、生成文字。你问它"这条产线最近有什么异常趋势"，它能从一堆设备数据里找出规律，然后用自然语言告诉你。
但它不擅长什么？它不擅长"确定"的事。
大模型生成的每个答案，本质上是一个概率分布——这次生成的文字和下次生成的可能不一样。这在写文案、做翻译的时候没关系，但在工业生产里，不一致本身就是风险。
工业生产涉及的是质量、设备、安全、交付。这些东西不能靠"可能"来管理。
我们的原则不是"大模型永不犯错"，而是做到：
- 错误不容易发生
- 错误容易被发现
- 错误不能越权执行
- 错误发生后可以追溯和纠正
这四条，比"绝对零幻觉"更诚实，也更管用。
六道防线，把不确定性锁在安全边界内
那怎么做到？
不是靠一条规则，是六条。
第一道：用真实数据说话，不让 AI 凭感觉编。
产线上的每个结论必须有数据支撑——设备数据、工艺参数、批次记录、质量检测结果。不允许没有数据来源的"我觉得"式回答。数据在哪、什么时间范围、哪个设备段、哪个批次——全部要能指出来。
第二道：统一语义，解决"同一种东西不同叫法"的问题。
同一条产线，PLC 叫"温度_T001"，MES 叫"烘箱温区1"，操作工说"前段温度"。三个名字说的是同一个东西，但系统对不上。如果不做语义统一，AI 就会把三段数据当成三段无关信息去理解，结论自然不准。
第三道：结论必须有证据，不确定就说不确定。
这不是态度问题，是架构设计。AI 给出的每个分析结果，都要明确标注数据来源、使用模型、置信度水平。证据不足的时候，必须输出"不确定"或者"建议补充数据"，而不是硬编一个看起来靠谱的答案。
第四道：关键计算交给专业模型，大模型只负责组织语言。
质量预测靠的是经过验证的 ML/DL 模型，异常检测靠的是时序算法，参数优化靠的是机理模型或业务规则。大模型的工作是理解这些模型输出的结果，然后用自然语言解释给人听——不是自己去算。
第五道：执行受到严格约束，AI 不能越界操作。
这是最关键的防线。大模型可以提出建议，可以发起工单申请，但任何涉及参数修改的操作，都必须经过三层校验：工艺边界检查（参数是否在安全范围内）、设备状态确认（设备当前是否可操作）、用户权限校验（操作人是否有权限）。
只有三层都通过，建议才能进入"可执行"状态。
第六道：全过程可追溯，每一句话、每一个操作都有记录。
用了什么数据、调用了什么模型、生成了什么建议、谁审批了、结果如何——全部记录下来。不是为了追责，是为了复盘和改进。知道哪里出了问题，下一次才能做得更好。
一个正确的"AI 位置"
这六道防线不是挂在外面的装饰，而是嵌入在系统架构里的。
我们画了一张三层图来回答"AI 到底该站在哪"这个问题。
最底层是数据和执行层。PLC、SCADA、MES、ERP、QMS——所有设备和业务系统都在这里。这是产线的物理现实，不可绕过，不可篡改。
最上层是业务应用层。异常分析、质量与能耗优化、设备诊断、决策与工单闭环。用户看到的界面在这里。
中间夹着两层。
一层是语义与模型层。这里干两件事：第一，把底层混乱的工业数据翻译成统一的业务语义——不是信号，是"设备""批次""工艺参数"这些工程师懂的语言。第二，跑专业模型，比如机器学习/深度学习——预测维护用 LSTM、质量检测用 YOLOv5、能耗分析用随机森林。大模型在这里不直接参与计算，它只负责调用这些专业模型，然后把结果翻译成自然语言。
另一层是安全控制层。这是真正的"守门员"。业务规则、工艺边界、身份权限、人工审批和审计——所有 AI 生成的建议，在到达执行系统之前，都必须经过这一层校验。
大模型站在安全控制层之上、业务应用层之下。它的任务很清楚：理解问题 → 检索证据 → 编排工具与专业模型 → 生成方案。
它不负责执行，不负责控制，不负责最终决定。
从"回答问题"到"受控执行"
在产线上，AI 的能力不能只停留在"问答"。必须走完五个环节：
发现异常。 AI 主动扫描设备状态、工艺参数、质量数据，发现偏离基线的情况。不是等工程师提问，是 7×24 小时自己盯着。
分析原因。 调用异常检测模型、质量预测模型、根因分析引擎，给出带证据和置信度的判断。
生成方案。 同时比较多个维度——质量、能耗、成本、设备风险——给出综合建议。方案必须经过规则校验，过滤掉不符合工艺边界的选项。
执行动作。 不是 AI 自己动手，是生成工单或参数调整申请。权限校验通过后，交由工程师确认或执行。
结果回流。 执行结果和实际改善效果记录回系统。下次遇到类似问题，模型有更多数据可用。
五个环节走完，才叫一个完整的闭环。
客户最常问的两个问题
"你们能保证AI完全没有幻觉吗？"
不能。任何大模型都不应该承诺绝对没有幻觉。真正的优势不在于"大模型不会犯错"，而在于那个犯错很难造成实际伤害——因为真实数据在它前面挡着，专业模型在它旁边算着，安全控制在它上面拦着，人工审批在它后面兜着。
"和普通知识库问答有什么区别？"
知识库只在文档里找答案。产线 AI 还会连接实时生产数据、设备关系、工艺规则和专业模型。它不只告诉你"发生了什么"，还告诉你"为什么发生、影响哪些批次、有哪些方案可选、是否符合工艺边界"。
写在最后
有个客户问了我一句话："你们做了这么多防线，是不是说明大模型本身就不靠谱？"
我说不是。
大模型是一种新的能力，就像一个新来的工程师——他读得快、记得多、能同时处理几十个问题。但你不能让他第一天就自己改参数，就像你不能让一个新工程师第一天就去调窑炉温度。
你要给他数据让他学习，给他规则让他遵守，给他边界让他不越线，给他审批流程让他学会"先问后动"。
这不是不信任，这是负责任。
我写这些，其实也是在提醒自己。每次看到有人把大模型直接连上产线的新闻，我都会本能地紧张一下。不是技术不行，是工业 AI 的价值不在"AI 能做什么"，而在"人敢让 AI 做什么"。
而要让一个人敢让 AI 改参数，需要的不是 AI 的准确率，是一整套从数据到语义到模型到规则到审批的安全架构。
结论有依据 · 建议有边界 · 执行有审批 · 过程可追溯 · 错误可控制。
这五句话，比"AI 能改参数"难做一百倍，但也重要一百倍。
*努力成为最落地的工业AI*