实操指南:MES/MOM 里装个 AI 助手,从操作手册到智能问答

MES/MOM 里装个 AI 助手：从操作手册到智能问答，详细实操步骤

前面几篇我们聊了算力服务器、千问大模型、本地部署，还讲了边缘 AI 设备（文搜/超脑）的原理。有企业 IT 朋友问了一个非常实际的问题：

我们已经有本地部署的算力服务器和大模型了，MES/MOM 系统里原来只有传统的操作手册（PDF / Word），员工遇到问题只能翻文档。能不能在系统里集成一个在线智能问答或帮助论坛？ 员工用自然语言问个问题，系统能自动组合出相关的实操答案——就像下面这两种效果：

左边是"论坛式问答"：类似开发者社区，AI 给出多方案 + 代码块 + 文档引用链接； 右边是"嵌入式聊天助手"：类似 U9C YonGPT，嵌入业务系统右侧，员工问"销售订单已有出货单如何变更客户"，AI 返回分步骤实操指引。

这篇文章就是一份从零到上线的详细实操指南。

一、先搞清楚：你要实现的是什么

本质上，你要做的是一套 RAG（检索增强生成）系统，它由四层组成：

层级	组件	干什么
用户入口层	论坛页面 / 聊天悬浮窗	员工输入自然语言问题
RAG 引擎层	问题理解 → 向量检索 → 上下文组装 → LLM 生成	核心大脑
模型服务层	千问 32B（推理）+ Embedding 8B（编码）+ 向量库	底座能力
知识库层	操作手册 PDF/Word、SOP、工艺卡、故障处理指南	数据来源

关键原则：所有组件跑在企业内网，数据不出域；大模型用你前面已经部署好的本地千问；知识库就是你企业现有的操作手册——不需要重新写任何东西。

二、两种交互模式怎么选

根据你贴的两张参考图，实际落地时有两种主流形态：

模式 A：论坛式问答（适合技术型场景）

形态：独立页面或 iframe 嵌入 MES 菜单
特点：
问题公开可见，可收藏、评分、搜索历史
AI 回答包含多方案对比、代码块高亮、文档引用链接
类似 CSDN / 知乎 / 开发者社区体验
适合：IT 运维、开发支持、工艺工程师等技术岗位
参考产品：你图一的效果（ Forguncy EL-Tree 清除选中状态的问答）

模式 B：嵌入式聊天助手（适合一线操作员）

形态：MES 右下角悬浮窗 / 侧边栏面板
特点：
对话式交互，上下文连续
AI 回答结构化分步骤（1. 检查… 2. 进入… 3. 重新…）
右侧关联推荐相关服务/工单/热线
有"问题反馈"按钮，bad case 可转人工
适合：产线操作员、质检员、仓管等一线员工
参考产品：你图二的效果（U9C YonGPT 销售订单变更客户）

建议：两种都做。论坛式给技术团队用，聊天式给一线员工用。底层共用同一套 RAG 引擎和知识库，只是前端展示不同。

三、六步实施路线（含每一步的具体操作）

Step 1：准备知识库素材（3 天）

这是最关键的一步——垃圾进，垃圾出。知识库质量直接决定回答质量。

具体操作：

收集素材
把企业所有操作手册（PDF / Word / Excel）归拢到一个目录
包括：SOP 标准作业程序、工艺卡片、设备操作规程、故障处理指南、质量检验标准
如果有内部 Wiki / 知识库平台，导出全部文章
清洗与分类
删除过时版本（保留最新版即可）
按模块建文件夹：生产/ 质量/ 设备/ 仓储/ 物流/ IT运维/
统一文件命名规范：模块_主题_版本号.pdf
补充高频问题
找一线班组长 / 车间主任聊半小时，列出他们被问最多的 Top 20 问题
这些"口口相传"的经验往往不在书面手册里，但恰恰是最有价值的
整理成 Q&A 对，补充进知识库

产出物：一个结构化的知识库目录，约 50~200 份文档（取决于企业规模）

Step 2：搭建向量检索层（2 天）

这一步把你的操作手册变成"可被语义搜索"的形式。

具体操作：

选型与部署向量数据库 ```bash # 推荐 Milvus（开源，性能好，Docker 一键起） docker run -d --name milvus \ -p 19530:19530 -p 9091:9091 \ milvusdb/milvus:v2.4-latest

# 或轻量方案：pgvector（PostgreSQL 扩展） # 如果企业已有 PG 数据库，直接装扩展即可 ```

加载 Embedding 模型
使用 Qwen3-Embedding 8B（前面文章推荐过的）
如果显存紧张，可用 2B 或 4B 版本
部署为独立 API 服务（端口 6000）
文档分块与向量化 ``` 分块策略：
按 PDF 章节/Word 标题自然切分
每块 512 ~ 1024 字（太短丢失上下文，太长检索精度下降）
块之间重叠 50~100 字（避免截断丢失信息）

处理流程：原始PDF → 文本提取(PyMuPDF) → 分块 → Embedding编码 → 写入Milvus ```

测试检索效果
用 10 个典型问题手动测试，检查 Top-5 召回是否命中正确文档
如果不准，调整分块大小或补充同义词

产出物：一个可用的向量检索 API（输入文字 → 返回最相关的 N 个文档片段）

Step 3：部署本地 LLM 推理服务（2 天）

如果你已经按前面的文章部署好了 KunLun + 千问，这步可以跳过或只需微调。

具体操作：

确认推理服务状态 ```bash # 在算力服务器上检查 vLLM 服务是否运行 curl http://localhost:8000/v1/models

# 应返回类似： # {"data":[{"id":"Qwen3-32B","object":"model"}]} ```

配置 OpenAI 兼容 API
vLLM 默认提供 /v1/chat/completions 接口，兼容 OpenAI 格式
记录下 base_url 和（如果有）API Key
测试一次完整调用： bash curl http://localhost:8000/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model":"Qwen3-32B","messages":[{"role":"user","content":"你好"}],"max_tokens":100}'
调优推理参数
temperature: 问答场景建议 0.1~0.3（低温度保证答案稳定一致）
max_tokens: 根据答案长度需求设 1024~4096
并发数：根据 GPU 显存和卡数调整（32B 单卡约 5~10 并发）

产出物：一个稳定的本地 LLM 推理 API，响应时间 < 3 秒

Step 4：搭建 RAG 应用框架（3~5 天）

这是把"向量检索"和"LLM 生成"串起来的核心环节。有两种路径：

路径 A：用 Dify / RAGFlow（推荐，零代码/低代码）

Dify 方案（可视化编排）：

安装 Dify（Docker Compose 一键部署）
创建工作流 Workflow：
开始节点：接收用户问题
LLM 节点（问题理解）：提取关键词和意图
知识检索节点：连接 Milvus，Top-K = 5
LLM 节点（生成回答）：组装 Prompt，生成结构化答案
结束节点：返回结果
配置 Prompt 模板（关键！）： ``` 你是{company_name}的MES系统智能助手。以下是从知识库中检索到的相关信息：

{context}

用户问题：{question}

请基于以上信息回答，要求： 1. 分步骤给出操作指引（如适用） 2. 引用具体的文档来源 3. 如果信息不足，明确说明并建议联系谁 4. 使用简洁的中文，避免冗余 ```

发布为 API，供前端调用

RAGFlow 方案（更专注 RAG）： - RAGFlow 是专门做 RAG 的开源平台 - 内置文档解析、分块、检索、重排序全链路 - 对中文 PDF 支持比 Dify 更好 - 同样支持可视化工作流编排

路径 B：自建 FastAPI + LangChain（更灵活）

# 核心伪代码示意
from fastapi import FastAPI
from langchain.chains import RetrievalQA
from langchain_community.llms import OpenAI  # 连接本地 vLLM

app = FastAPI()

@app.post("/qa")
async def qa(question: str):
    # 1. 检索相关文档
    docs = retriever.get_relevant_documents(question, k=5)
    context = "\n\n".join([d.page_content for d in docs])

    # 2. 组装 Prompt
    prompt = f"""你是MES智能助手。参考以下信息回答：
    {context}

    问题：{question}"""

    # 3. 调用本地 LLM
    answer = llm.invoke(prompt)

    return {"answer": answer, "sources": [d.metadata for d in docs]}

产出物：一个可用的 RAG 问答 API（POST /qa，输入问题，返回答案 + 来源）

Step 5：集成到 MES/MOM 系统（5~7 天）

这一步让 AI 助手真正出现在员工的操作界面上。

论坛式集成的具体操作：

开发问答页面
前端框架：Vue / React（看你们 MES 技术栈）
页面布局：顶部搜索框 + 问题列表 + 详情区（参考图一）
调用 RAG API 展示 AI 回答
功能：提问、收藏、评分、搜索历史
嵌入 MES 系统
方案一：iframe 嵌入——在 MES 菜单中加一项"智能问答"，指向独立部署的问答站点
方案二：单页应用集成——把问答页面打包成 MES 的一个子路由
推荐 iframe 先跑通，后续再深度集成
对接单点登录（SSO）
从 MES 的 token / cookie 中提取用户身份
传递给 RAG 后端，用于权限控制和日志记录

嵌入式聊天助手的具体操作：

开发悬浮窗组件
位置：右下角固定定位（position: fixed; bottom: 20px; right: 20px）
默认收缩为圆形图标，点击展开聊天面板（参考图二）
面板宽度 380~420px，高度自适应
面板内容
顶部：AI 头像 + 名称 + 状态指示
中部：消息列表（用户消息右对齐，AI 回复左对齐）
底部：输入框 + 发送按钮 + 快捷附件按钮
右侧边栏（可选）：关联服务推荐、工单入口、热线电话
注入 MES 全局 javascript // 在 MES 主页面加载时注入脚本 (function() { const script = document.createElement('script'); script.src = 'https://your-mes-server/ai-chat-widget.js'; script.dataset.apiBase = 'https://your-rag-api'; document.head.appendChild(script); })();
增强功能
问题反馈：每条 AI 回答下方加"👍 👎 反馈"按钮，差评自动转工单
关联推荐：根据问题分类，右侧显示相关 SOP / 联系人 / 热线
多轮对话：记录上下文，支持追问"那如果…呢？"

产出物：员工在 MES 里可以直接使用的 AI 问答功能

Step 6：测试迭代与上线（2 周）

小范围试点（第 1 周）：

选一个车间或部门作为试点（建议选问题最多、数字化意愿最强的）
让 10~20 名核心用户试用
每天收集反馈，重点关注：
答不准：→ 补充知识库条目 / 调整检索参数
答得太慢：→ 优化向量索引 / 增加 LLM 并发
答非所问：→ 优化 Prompt 模板 / 加意图分类
界面不好用：→ 收集 UI 反馈快速迭代

优化重点：

问题类型	解决方法
检索不到相关文档	调大 Top-K、换 Embedding 模型、增加同义词扩展
答案太泛不具体	在 Prompt 中强调"分步骤""引用原文""给出具体操作路径"
幻觉（编造不存在的内容）	加强 Prompt 约束："如果信息不足请明确说明，不要编造"
格式混乱	在 Prompt 中指定输出格式（Markdown / 结构化 JSON）

全量推广（第 2 周）：

编写《AI 助手使用手册》（1 页 PPT 就够）
组织 15 分钟培训：演示 + 常见问题
在 MES 首页加引导提示："有问题？试试右下角 AI 助手"
上线后持续监控：
日均提问量
平均响应时间
用户满意度（👍👎比例）
Bad case 转人工率

产出物：全员可用的 MES AI 智能问答系统

四、总工期与资源估算

阶段	工期	人力	关键依赖
Step 1 知识库准备	3 天	业务专家 + IT	企业现有文档
Step 2 向量检索层	2 天	1 名后端	Docker 环境
Step 3 LLM 推理服务	2 天	1 名运维	算力服务器已就绪
Step 4 RAG 应用框架	3~5 天	1~2 名后端	Step 2 + 3 完成
Step 5 MES 集成	5~7 天	1 前端 + 1 后端	MES 系统源码/接口权限
Step 6 测试迭代	2 周	全团队参与	试点部门配合

总计：约 4~6 周从零到可用（取决于知识库规模和 MES 对接复杂度）

如果用 Dify/RAGFlow 等 Low-code 平台，Step 4 可压缩到 1~2 天；如果 MES 是商业软件（无法改源码），Step 5 的 iframe 方案 2~3 天就能搞定。

五、避坑指南

坑 1：知识库质量 > 模型大小 - 用 8B 模型 + 高质量知识库，远胜 235B 模型 + 垃圾文档 - 宁可花时间清洗文档，也不要盲目追求大模型

坑 2：不要试图一步到位 - 先用 50 份核心文档跑通 MVP，再逐步扩充 - 先上线论坛式（开发快），再加聊天式

坑 3：Prompt 工程是隐形的杠杆 - 同样的 RAG 系统，Prompt 写得好，回答质量能提升 30%~50% - 多花时间打磨 Prompt 模板，这是性价比最高的投入

坑 4：留好"转人工"的出口 - AI 不可能 100% 准确，一定要有"问题反馈 → 转工单 → 人工跟进"的通道 - 这也是收集 bad case、持续优化的数据来源

六、总结

回到开头的问题：企业已经有算力服务器和大模型了，MES 里想集成智能问答，怎么做？

答案就六步：

整理操作手册 → 建知识库
搭向量数据库 → 让文档可被语义搜索
部署本地千问 → 当推理引擎（你可能已经有了）
搭 RAG 应用 → 把检索和生成串起来（推荐 Dify/RAGFlow）
嵌入 MES 界面 → 论坛式 + 聊天式两种都要
试点迭代 → 小范围跑通再推广

最终效果就是：员工在 MES 里敲一句"如何变更客户信息"或"设备报警 E03 怎么处理"，系统自动从几百份操作手册里找到相关章节，组合出分步骤的实操指引——不用再翻 PDF，不用打电话问人，答案就在手边。

下一篇我们聊聊：这套 AI 问答系统上线后，如何做运营和持续优化？以及如何把边缘 AI 设备（文搜/超脑）的能力也接入同一个统一入口？

关注我，每周带来硬核科技扫盲与产业解读