别再只会ChatGPT:5个开源AI工具,本地就能跑

这两年 AI 工具爆发式增长，但很多人的使用还停留在"打开网页版聊几句"。其实开源世界里，已经有一批成熟到可以装进自己电脑、数据完全自己掌控的项目。这篇给你盘 5 个我持续在关注的开源 AI 工具，全部免费开放，附上手的建议。

如果把开源 AI 工具按"国民度"排，Ollama 一定在头部。它解决的是一个特别朴素的问题：不动 Docker、不配环境，一条命令把 DeepSeek、Qwen、GLM 这些开源模型跑起来。

适合两类人：一是数据敏感、不想把内容传到云端的用户；二是想在旧笔记本上折腾小模型的爱好者。7B 级别的量化模型，16G 内存的普通电脑就能跑，响应速度完全可用。

上手建议：从 7B~8B 的量化版本开始，别一上来就追大参数，先跑通再说。

命令行跑模型没问题，但日常用还是需要一个像样的界面。Open WebUI 就是这个角色——自托管、开源，在 GitHub 上已经积累了十几万 star，是目前本地 AI 界面的事实标准之一。

它最实用的地方是多模型管理：本地模型、云端 API 可以放在同一个界面里切换，对话历史、知识库、角色预设也都齐了。配合 Ollama 使用，基本等于在自己电脑里搭了一个私有版 AI 工作台。

手里一堆 PDF、Word、网页剪藏，想问问题却总是翻不到？RAGFlow 这类开源 RAG 引擎干的就是这件事：把文档切分、建索引，然后你直接提问，它带着原文引用回答，每一句都能溯源。

它对复杂版式文档（表格、扫描件、双栏论文）的理解能力是社区公认的长处。做行业研究、写综述、整理项目资料，都值得试。

模型越出越多，每个都开一个网页版？Cherry Studio 的思路是把主流模型聚合到一个桌面客户端里，内置了几百个预设助手，还支持智能体和本地模型接入。对同时用好几个模型的人来说，切换成本直接降一个量级。

前面几个都是"用模型"，Dify 是"搭应用"：可视化拖拽就能编排提示词、知识库、工作流和 Agent，做完直接生成一个可用的服务。团队内部做一个客服机器人、文档问答、数据整理流程，不用等排期，自己就能搭出来。

开源的好处是试错成本几乎为零：不满意就换，数据始终在自己手里。这五个项目都在活跃更新，建议直接去 GitHub 搜项目名进仓库看文档。

互动时间：这五个里你已经在用哪个？还有什么私藏的开源工具？评论区聊聊👇