乐于分享
好东西不私藏

学AI第四课:装个Dify,把散装的AI工具串起来

学AI第四课:装个Dify,把散装的AI工具串起来

像我这种小白学AI不知道该从哪里入手,我让opencode给了我一个学习计划,我每学完一步就跟他沟通,哪里不会也跟他沟通,既方便还能推着自己走。

前面已经跟着学习计划装Ollama,学习了大模型原理、提示词技巧、还有让AI看资料再回答。下面就正式开始了,安装Dify。

首先我对Dify不是很了解,直接问了AI,为什么要安装、要学这个,他能给我什么助力。下面是AI的回答:

学完前三课已经有了:本地跑起来的模型(qwen2.5)、自己的知识库文档(公众号文章)、会写提示词了。但它们还是"散装"的,在终端里一问一答还行,想做个能实际用的东西——比如"一个懂我公众号的AI助手"——就不知道从哪下手了。

感觉这正好解决了我一直以来的问题,之前我使用过好多AI工具,但是感觉自己的内容无法串联起来,没有一个系统的概念,也不知道如何提高自己使用AI的技能。

首先要了解Dify是什么?

一句话:Dify是一个AI应用的工作台。

把刚才说的三样东西——模型、知识库、提示词——在网页上拖拖拽拽就能串起来。并且:

  • 不用写代码
  • 有网页界面(像后台管理系统)
  • 所有数据在本地,不出门
  • 完全免费开源

你可以这么理解:

工具
好比
Ollama
发动机(模型本身)
Dify
车身+方向盘+仪表盘(把模型包装成可用的应用)
你在终端敲命令
直接蹲发动机旁边操控
你用Dify的网页
坐在驾驶座上,有方向盘和屏幕

为什么要装它

1. 把知识库变成AI的"参考资料"

第三课写的让AI看资料再回答,在终端里要实现很麻烦。但是可以在Dify里建一个知识库,上传文档,自动分块、自动向量化、自动检索,全程可视化,点几下就行了。

2. 不用每次敲命令了

终端里每次都得 ollama run,换了电脑还得重新配。Dify装一次,以后打开浏览器就能用。界面里有聊天框、有历史记录、有参数调节滑块。

3. 可以做"作品"出来

这是最关键的一点。 学AI最怕什么?学了一堆概念,但做不出能用的东西。 在Dify里,你可以:

  • 做一个"育儿助手",回答基于你自己的带娃经验文档
  • 做一个"选题助手",基于你公众号的历史文章给你建议
  • 做一个"英语伴学",让孩子在可控环境里用AI学英语
  • 然后生成一个链接,分享给家人用

学完能出东西,才能坚持学下去。

怎么装:最简单的方式

第一步:安装Docker Desktop

去 https://docs.docker.com/desktop/setup/install/windows-install/ 下载安装,一路下一步就行。

装完打开,等右下角图标变成稳定状态。

第二步:下载Dify的docker-compose文件(这一步也可以让opencode帮你实现)

打开终端(PowerShell),执行:

# 在D盘建个目录mkdir D:\dify# 下载Dify的编排文件cd D:\difyInvoke-WebRequest -Uri "https://raw.githubusercontent.com/langgenius/dify/main/docker/docker-compose.yaml" -OutFile "docker-compose.yaml"Invoke-WebRequest -Uri "https://raw.githubusercontent.com/langgenius/dify/main/docker/.env.example" -OutFile ".env"

第三步:启动(这一步也可以让opencode帮你实现)

docker compose up -d

第一次启动会下载镜像,大概几百MB到1GB,看网速等几分钟。

等终端输出类似这样的提示,就说明启动了:

[+] Running 10/10 ✔ Container dify-db-1              Started ✔ Container dify-redis-1            Started ✔ Container dify-weaviate-1         Started ✔ Container dify-api-1             Started ✔ Container dify-worker-1          Started ✔ Container dify-web-1             Started ✔ Container dify-sandbox-1         Started ✔ Container dify-nginx-1           Started ✔ Container dify-ssrf_proxy-1      Started ✔ Container dify-plugin_daemon-1   Started

第四步:打开浏览器

访问 http://localhost,你会看到Dify的注册页面。

注册一个账号,之后登录就能看到主界面了。

第五步:接入本地模型

在Dify的右上角点头像 → 设置 → 模型供应商 → Ollama。

填入:

  • 名称写 ollama
  • 地址写 http://host.docker.internal:11434

这样Dify就能调你电脑上Ollama里的模型了。

回到"模型供应商"页面,刷新一下,应该能看到qwen2.5等模型出现了。把语言模型设成 qwen2.5:1.5b,嵌入模型设成 nomic-embed-text(这个用来建知识库)。

装好之后怎么学

Dify功能不少,作为零基础,可以先按照这个顺序来,或者让AI帮助你出一个学习步骤:

第一步:建一个聊天助手

点"工作室" → "创建应用" → "聊天助手"。选你刚才配好的模型,给它起个名字,比如"我的AI助手"。然后你就可以在网页上跟它聊天了——跟终端一样,但有界面了。

第二步:建一个知识库

点"知识库" → "创建知识库" → 上传你的文档。支持txt、md、pdf、word等格式。

Dify会自动把文档切分成小段,用嵌入模型转成向量存起来。这个过程叫"索引",几十个文档大概需要半小时到一小时(取决于文档数量和电脑配置)。

第三步:把知识库连到聊天助手

在聊天助手的设置里,找到"知识库"选项,勾选你刚建的。这样你再问问题的时候,AI就会先去知识库里找相关资料,再基于这些资料回答——就是第三课里说的RAG。

第四步:调一调让结果更好

在聊天助手的设置里,你可以:

  • 改提示词(System Prompt),告诉AI"你是一个育儿专家,基于我的公众号文章回答问题"
  • 调检索参数,比如一次检索几篇文档、匹配度多高才用
等等。

第五步(进阶):试工作流

Dify有个"工作流"功能,可以把多个步骤串起来——比如先检索知识库,再用Prompt润色,最后用模型输出。这个比较复杂,建议把前面的玩熟再试。

目前我还在探索学习。

跟前面的内容怎么串起来

至此,四篇的内容就是一个完整的链条:

  1. 装Ollama → 有了本地模型
  2. 理解大模型原理 → 知道它在做什么
  3. 学会提示词 → 知道怎么跟它对话
  4. 装Dify+建知识库 → 把模型和资料变成可以用的应用

其实,你也可以在学习使用任何其他AI工具时按照这个模式串联起来。

学到现在目前最大的感受是:AI入门最大的障碍是"不知道学了能干嘛"。

所以你一开始就要有一个目标,比如"我要做一个能帮忙写公众号的助手"。这样每一步都有了意义:装模型是为了让它跑起来,建知识库是为了让它懂你,学提示词是为了让它答得好。一步一步就会推着你学习、操作、实现目标。

最后,学习后要及时输出。比如像我一样把每一步的内容都写出来,这样才能知道自己到底掌握了没有。

指路:

在家跑大模型?10分钟装个Ollama就能玩

学AI第一课:大模型就是个猜词高手

学AI第二课:跟AI说话是有公式的学AI第三课:让AI看你的资料再回答,它就不瞎编了