小白学AI · 会计人必修课
本地部署Ollama + Open WebUI
完全免费,数据100%安全
第 06 篇 · 共 7 篇
学会用AI之后,李梅遇到了一个棘手问题:她想让AI分析公司真实的财务报表,但客户的真实名称、账目明细……她不敢输入到公网AI里。老板也问:"这些数据发出去安全吗?"
— 解决方案:把AI装进自己的电脑,数据永远不联网
这一篇,我们来安装Ollama——一个能让你在自己电脑上运行AI大模型的免费工具。安装完成后,你就拥有了一个完全私密、完全免费、永不联网的本地AI。
① 云端AI vs 本地AI:安全性对比
☁️ 云端AI(网页版) ❌ 数据发送到公司服务器 ❌ 可能被用于AI训练 ❌ 网络中断时无法使用 ✅ 随时可用,无需配置 ✅ 模型能力最强 | 🏠 本地AI(Ollama) ✅ 数据完全留在本机 ✅ 离线也能使用 ✅ 永久免费,无API费用 ⚠️ 需要一定电脑配置 ⚠️ 模型能力略弱于云端顶级 |
对于处理真实财务数据(客户名称、银行账号、薪酬数据、未公开报表),本地AI是唯一安全的选择。一旦配置完成,它和使用网页版AI体验一样便捷。
② 你的电脑够用吗?硬件要求
✅ 普通办公电脑基本够用
2019年后买的主流笔记本(8GB内存)都可以运行Ollama的基础模型,响应速度可能稍慢,但完全可用。如果主要用来处理文本和财务分析,完全没问题。
③ 安装Ollama(10分钟完成)
| 1 | 下载Ollama安装包 打开浏览器,搜索"Ollama官网"(ollama.com),下载对应你操作系统的安装包(Windows/Mac/Linux)。文件大约200MB。 |
| 2 | 安装并启动 Windows:双击下载的 .exe 文件,一直点"下一步"安装。安装完成后,系统托盘(右下角)会出现小图标,说明Ollama在后台运行。 |
| 3 | 下载一个AI模型 打开"命令提示符"(Windows)或"终端"(Mac),输入以下命令: # 下载Qwen2.5(推荐,中文优秀,约4.7GB) C:\> ollama pull qwen2.5:7b pulling manifest... # 或者下载DeepSeek本地版 C:\> ollama pull deepseek-r1:7b |
| 4 | 测试运行 在命令行输入以下命令,开始和AI对话: C:\> ollama run qwen2.5:7b >>> 你好! 你好!我是AI助手,很高兴为您服务。请问有什么可以帮助您的? 如果出现AI回复,说明安装成功! |
④ 会计场景推荐使用哪个模型?
| ⭐ 首选推荐 | Qwen2.5:7b(通义千问2.5) 阿里出品,中文理解能力优秀,对会计、财务、法律等中文场景支持好。7B版本在普通电脑上运行流畅。 中文极强4.7GB命令: qwen2.5:7b |
| 🔥 性价比 | DeepSeek-R1:7b(本地版DeepSeek) DeepSeek也有可以本地运行的开源版本!推理能力强,适合需要复杂计算和逻辑分析的场景。 推理强4.7GB命令: deepseek-r1:7b |
| 🚀 高配版 | Qwen2.5:14b(更强版本) 如果你的电脑有16GB以上内存或独立显卡,14B版本能力显著更强,接近云端AI水平。 能力更强需16GB内存命令: qwen2.5:14b |
⑤ 装上图形界面:Open WebUI
命令行用起来不方便,我们来安装一个漂亮的对话界面——Open WebUI,让本地AI的使用体验和网页版一样好。
| 1 | 安装Docker Desktop(一次性) 搜索"Docker Desktop"官网,下载并安装。Docker是一个让安装软件变得简单的工具,安装完成后启动它(在后台运行即可)。 |
| 2 | 用一条命令安装Open WebUI 打开命令提示符,复制粘贴以下命令(完整复制,一行): docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main 等待下载完成(首次约需3-5分钟)。 |
| 3 | 打开浏览器访问 在浏览器地址栏输入 http://localhost:3000,就能看到一个漂亮的AI对话界面。第一次访问需要注册一个本地账号(账号数据存在你的电脑里,不联网)。 |
🤖 Open WebUI · localhost:3000
你好!我是运行在你本地电脑上的AI助手,使用Qwen2.5模型。你的所有对话数据都保存在本地,不会联网传输。有什么可以帮助你的?
帮我分析一下这份应收账款数据,[粘贴真实财务数据也安全!]
好的,我来帮你分析。所有分析都在本地完成,请放心使用真实数据……
现在可以放心粘贴真实财务数据!数据永远不离开你的电脑。
✅ 验证本地AI的方法
安装完成后,你可以断开网络连接(拔掉网线/关闭WiFi),Open WebUI仍然可以使用——这证明了AI完全在本地运行,与互联网无关。
⑥ 常见问题解答
❓ "响应速度太慢怎么办?"
换用小一号的模型(如3b版本),或关闭其他占用内存的程序。有独显的电脑会快很多。
❓ "命令行让我很害怕"
只需要复制粘贴命令,不需要理解它。出错了截图发给AI(如DeepSeek网页版),它会帮你排错。
❓ "本地AI回答没有DeepSeek准确"
本地7B模型能力约等于2-3年前的GPT-3.5级别,处理会计分析完全够用,但极复杂的推理不如云端顶级模型。
🔴 电脑发热是正常的
运行AI模型会让CPU/GPU满载,电脑发热和风扇转速加快是正常现象。如果长时间使用,注意保持通风散热。
最终篇预告 · 第07篇
🏆 打造会计Agent:自动生成公司财务报表
这是本系列的终极目标。我们会用Dify搭建一个完整的AI工作流:它能读取你提供的数据,自动分析,自动生成格式统一的月度财务报表,一键输出Word文档。从此月底再也不用加
夜雨聆风