ARTICLE · 1211685
"断网也能用!OpenClaw + Ollama 本地部署,多模型自由切换(GPT-OSS / Qwen3 / GLM 4.7)"
断网也能用!OpenClaw + Ollama 本地部署,多模型自由切换
你有没有这种体验:写了一半的方案,想让 AI 帮改改,结果公司网络一抽风,ChatGPT / 通义都连不上,活儿卡半截。
更烦的是:想对比 GPT-OSS、Qwen3、GLM 4.7 几个模型哪个更适合你,结果每个都要单独注册、单独充钱、切换账号切到手抽筋,数据还全在别人服务器上。
今天这套方案,三个痛点一次解决:断网可用、多模型一个界面自由切、数据不出本地、零 API 费。
主角两个:Ollama(本地跑大模型最简单的方式)+ OpenClaw(本地 AI 前端,对标 OpenWebUI,连上 Ollama 就能用)。
零度解说也专门出过这期,他原话是"无需 API、断网可用、多模型自由切换"。我把它转写成带踩坑的图文版,更适合对着做。
一、这套组合凭什么?
三个卖点,每一个都戳中在线 API 的要害:
- 断网可用
:模型在你自己电脑上跑,公司断网、飞机上、没网的地方照常用 - 多模型一个界面切
:GPT-OSS 120B、Qwen3、GLM 4.7、Kimi,想用哪个点一下就换,不用切账号 - 零 API 费 + 数据不出本地
:不调任何云端接口,没有按量计费,敏感文档也不怕泄露
二、环境准备:先把地基打牢
1)装 Git(Windows)
以管理员身份打开 PowerShell(搜索栏搜 PowerShell,右键"以管理员身份运行"),执行:
winget install --id Git.Git -e --source winget 装完关掉重开,输入 git --version 能看到版本就成功了。
如果报错,多半是没用管理员身份,或者系统策略限制。重开 PowerShell 用管理员再试一次。
2)装 Ollama
去 ollama.com 下载对应系统的客户端,双击安装。装完任务栏会出现羊驼图标,说明后台服务起来了。默认监听 http://localhost:11434。
验证一下:
ollama --version 三、拉模型:把"工人"请进来
Ollama 的好处是模型一行命令拉取,且明确告诉你多大数据。常用几个,按显存自己选:
ollama pull qwen3:8b | |||
ollama pull glm4.7:9b | |||
ollama pull gpt-oss:20b | |||
ollama pull gpt-oss:120b |
ollama pull qwen3:8b ollama run qwen3:8b "你好,介绍一下你自己" 能正常回复,说明模型装好了。
显存吃紧就选 8B 档;想体验强推理就上 20B;120B 那种大块头,没 24G 显存别硬刚,用量化版(
q4_K_M)能压一截。
四、部署 OpenClaw:给模型套个"好用的壳"
Ollama 自带的命令行不够直观。OpenClaw 是个本地前端,把对话、模型切换、历史管理做成网页界面,对标 OpenWebUI。
部署要点(以本地直装为例):
按 OpenClaw 官方文档拉起服务(通常是 npm或docker一键起)打开网页界面,在设置里连接 Ollama,地址填 http://localhost:11434连上后,界面下拉框会出现你本地所有模型(Qwen3 / GLM / GPT-OSS…),点一下就切换
如果用 Docker 起 OpenClaw,关键坑:容器里的
localhost指的是容器自己,不是宿主机。要连到宿主机的 Ollama,地址得填http://host.docker.internal:11434(Docker 需配extra_hosts: host.docker.internal:host-gateway)。这是 90% 新手卡住的地方。
五、多模型怎么用?不是摆着好看
装好几个模型后,真正的玩法是根据任务挑模型,不用切账号:
- 写代码 / 技术问答
→ GPT-OSS 20B,推理稳 - 中文长文 / 润色
→ GLM 4.7,中文理解强 - 日常闲聊 / 快问快答
→ Qwen3 8B,响应快、省显存 - 重活(长文档分析)
→ GPT-OSS 120B(量化版)
同一界面,下拉一切,谁合适用谁。这比开五个网页切五个账号香太多了。
六、踩坑指南(提前避开)
- 连不上 Ollama
:先确认羊驼图标在(服务起了),再查地址填对没。Docker 用户重点看第四章那个 host.docker.internal坑 - 模型下拉不显示
: ollama list看本地有没有;没有就ollama pull再拉。OpenClaw 连的是本地已下载的模型,不会自己下 - 模型名写错
:Ollama 对 tag 敏感, qwen3:8b和qwen3不一样,以ollama list显示的为准 - 显存爆了
:换更小的模型,或关掉其他占显存的程序。Ollama 默认会尽量用满显存 - 首次对话慢
:模型要加载进显存,第一次几秒到十几秒正常,之后就快了
写在最后
很多人以为"用多个 AI 模型 = 开多个会员",其实你本地装好 Ollama,几个开源模型随便切,断网照用、零 API 费、数据不出门。
核心就一句:Ollama 负责跑模型,OpenClaw 负责好用的界面,各管一段。
你本地现在跑的是哪个模型?想让我下一篇写"怎么把 OpenClaw 接上你的私人知识库"吗?评论区说一声。
内容由 AI 生成,仅供参考。开源模型本地部署合法免费,敏感数据请自行评估合规。















































































