一、开头  

 

   上周有个朋友发微信问我："你们天天说AI多好用，可我微信聊天记录、公司合同、客户名单这些东西，你敢往网上传吗？"  

 

   他这一问，把我问住了。  

 

   说实话，我也不敢。公司机密不能上传云端，病历、身份证照片、银行流水这些更不用说了。但问题是——不联网的AI，能用吗？  

 

   答案是：能。而且比你想象中简单得多。  

 

   现在你电脑上就能跑一个完全免费、数据全程不离开你硬盘的AI助手。它能读你的PDF合同、整理你的项目文档、帮你写周报——不用联网，不用注册，不用花一分钱。我每周拆解一个真正能用的AI工具，建议先关注不迷路。  

 

   二、核心干货：三步搭好本地AI助手  

 

   第一步：装一个"AI引擎"（3分钟）  

 

   打开浏览器，搜「Ollama」，进官网点下载。Windows、Mac、Linux 都有安装包，跟装普通软件一样，双击、下一步、完成。  

 

   装好之后，打开终端（Windows按Win+R输入cmd回车，Mac打开终端），输入一行命令：  

 

ollama run qwen2.5:7b

 

   回车。它自动下载7B参数的模型文件（约4.5G），下完就能在终端里跟AI聊天了。  

 

   这就是你的第一个本地AI。断网也能用，反应很快。7B模型已经能写邮件、改代码、做翻译、总结文档——日常办公够用了。  

 

   但光在终端里打字不够爽。我们给它装个"脸"。  

 

   第二步：装个"聊天界面"（2分钟）  

 

   再搜「Open WebUI」，同样免费开源，专门给Ollama做图形界面。  

 

   最简单的装法，还是终端一行命令：  

 

docker run -d -p 3000:8080 --name open-webui ghcr.io/open-webui/open-webui:main

 

   没错，需要先装Docker（官网免费下载）。装完Docker后执行上面那行命令，等它拉完镜像，浏览器打开 http://localhost:3000，注册一个本地账号（数据全存你电脑上），就能看到跟ChatGPT一模一样的聊天界面了。  

 

   选择模型（刚才装的qwen2.5:7b），开始聊。界面支持上传文件、对话历史、Markdown渲染，体验完全不输网页版AI。  

 

   第三步：把本地文件喂给它（最关键的一步）  

 

   Open WebUI 有个"知识库"功能。点左侧「Workspace」→「Knowledge」，新建一个知识库，然后把你的PDF合同、项目文档、技术手册全拖进去。  

 

   之后在任何对话里，输入 #知识库名 你的问题，AI就会在这些文件里搜索答案。  

 

   实测效果：我把50多页的产品需求文档扔进去，问它"第三期要改哪几个模块"，3秒钟给出答案，还标了页码。  

 

   这种实操拆解每周更新，建议先关注，免得下次找不到。  

 

   三、进阶技巧：不止一个模型  

 

   Ollama支持几百个开源模型，在终端输入 ollama pull 模型名 就能装：  

 

   qwen2.5:14b：比7B聪明不少，8G显存能跑
   llama3.1:8b：Meta出品，综合能力强
   nomic-embed-text：专做文档检索，配知识库用
   codellama:7b：代码补全专用  

 

   不同任务换不同模型，跟换工具一样方便。而且Ollama用的时候才加载模型，不用就释放显存，不会一直占着资源。  

 

   本地AI不需要为Token付费。跑100万字跟你聊一句花的电费差不多。如果你每天用AI写文案、改代码、处理文档，一年下来省的钱够买台新电脑。  

 

---

 

   四、总结  

 

   三年前，跑一个像样的AI模型要几万块的显卡。现在，你手头这台笔记本就能跑出接近付费版的效果。  

 

   AI不再是少数人的特权。它正在变成跟Word、Excel一样的标配工具——装在你电脑上，数据归你，能力也归你。  

 

   花10分钟搭好它。三天后你会回来感谢自己。