从零搭建一个会回答企业问题的 AI 助手

FastGPT 全流程实践

📦 5 PARTS + CONCLUSION

全部章节

这正是 FastGPT 要解决的问题

上传文档 → 系统自动处理 → 用户提问 → 从文档检索相关内容 → 大模型生成回答。AI 先查资料，再组织语言，而不是凭记忆瞎编。

开箱即用

提供完整的数据处理和模型调用能力，不需要从零搭建 RAG 流程。

可视化工作流编排

通过 Flow 模块设计复杂流程，例如先查数据库、再查库存、再走审批，而不只是简单的一问一答。

多种数据导入方式

支持手动输入、直接分段、LLM 自动处理和 CSV 导入，兼容 PDF、Word、Markdown 等格式。

QA 结构设计

相比单纯的文本分块，FastGPT 可以把内容处理成问答对，让向量更精准地表达语义，提升检索准确率。

接口对齐 OpenAI 标准

现有 GPT 应用只需调整 BaseURL 和密钥，就能切换到 FastGPT。

开源可控

代码基于 Apache License 2.0 并附加 FastGPT 的额外许可条件发布，可自行部署在内网；涉及多租户 SaaS、品牌标识修改等场景时，需要核对商业授权要求。

Docker：20.10.0 及以上

Docker Compose：2.20.3 及以上

！老旧 CPU 注意 🕳

MongoDB 5.x 依赖 AVX 指令集，部分老旧服务器启动会报错，可将镜像改成 mongo:4.4.29 等兼容版本。

首次启动时，日志中的 MongoServerError 快照提示通常可以忽略。部分版本首次进入浏览器标签页无响应时，关闭后重新打开即可。

FastGPT 本身不自带大模型，需要接入外部模型接口。它通过 One API 管理模型池，可兼容 OpenAI、Azure、国内主流模型和本地私有化模型。

在主界面新建知识库并导入文档。系统支持直接分段、LLM 自动处理、手动输入和 CSV 批量导入。

直接分段

上传 PDF、Word、Markdown、CSV 等文档，由系统自动切分。

LLM 自动处理

让模型做语义切分并生成 QA 对，质量更高，但会消耗模型调用量。

手动输入

适合少量精确内容，例如常见问题和标准话术。

CSV 批量导入

适合已经整理好的问答对数据。

导入后，系统会自动完成文本预处理 → 向量化 → 存入向量数据库，无需人工干预。

知识库准备好后，新建一个应用，也就是具体的 AI 助手或机器人，在应用配置中绑定知识库，并设置对话模型、检索参数和系统提示词。

正式上线前，建议同时使用搜索测试和对话测试。前者检查召回片段是否准确，后者验证检索加模型生成的完整问答链路。

检查文档切分粒度

切得太碎或太整，都会影响检索精度。

调整检索参数

调整返回条数和相似度阈值，观察召回质量变化。

优化系统提示词

明确规定知识库找不到答案时的回复方式，减少模型幻觉。

调试满意后，可以通过网页嵌入、API 调用，或企业微信、飞书等第三方渠道对外提供服务。

数据安全

知识库涉及内部敏感资料时，建议整套系统部署在内网，并优先选择支持私有化部署或有明确数据不留存承诺的模型服务商。

模型选择要结合成本

调试阶段可以使用性价比高的模型，正式上线后再根据回答质量与调用成本决定是否升级。

知识库要持续迭代

知识库不是导入一次就一劳永逸。应定期检查真实提问与系统回答，针对性补充或修正内容。

商业版还包括自定义版权信息、团队空间与权限、管理后台等企业能力。具体功能会随版本调整，正式选型时应以官方最新功能对比表为准。

！开源并不等于没有商业限制 🕳

未经 FastGPT 书面授权，不能使用其源码运营与 FastGPT 类似的多租户 SaaS 服务，也不能移除或修改控制台中的 LOGO 与版权信息。

商业镜像不能自行修改

完整商业版由社区版镜像和商业版镜像组成。社区版代码可以修改，商业版镜像不能修改；二次开发后，后续升级通常需要自行合并代码。

社区版运维责任在自己

数据库备份、监控告警、版本升级、高可用、安全修复和模型 API 费用均需自行承担。对外提供稳定服务时，还要额外建设多副本、负载均衡与灾备。

功能范围、授权条件和收费方式可能随版本调整。正式采购或对外商业化前，请再次核对官方文档与许可证。

把复杂的 RAG 链路，封装成开箱即用的系统