先说结论:文档有一百篇,但没人告诉你从哪开始
昨天发了那篇QwenPaw体验文,后台收到最多的问题不是"它好不好用",而是——
"怎么装?"
说实话,QwenPaw的官方文档有一百多篇,GitHub的README写了三千行,但第一次配的时候我还是踩了三个坑:ollama服务端口对不上、YAML里的中文编码报错、GPU显存估算错了跑不起来。折腾了两个晚上才全部调通。
这篇文章,就是把那两个晚上踩的坑全部摊开,让你少走两晚弯路。
全文核心:三步走通,贴命令,不废话。
第一步:装Ollama——这是QwenPaw的地基
QwenPaw本质上是个"壳",真正的模型跑在ollama上。所以不管你用Windows还是Linux,第一步永远是先把ollama装好。
Windows(PowerShell管理员模式):
winget install Ollama.Ollama
Linux/macOS:
curl -fsSL https://ollama.com/install.sh | sh
装完之后验证一下:
ollama list
能返回模型列表就说明装对了。如果报错"ollama不是内部或外部命令",重启一下终端或者把ollama路径加到系统PATH里。
这里踩的坑:ollama默认端口是11434,QwenPaw的config.yaml里如果配了别的端口,要手动改成11434。我第一次就是端口配错了,模型死活起不来,排查了半小时。
第二步:拉模型——显存够不够决定你用哪个
ollama装好之后,需要往里塞模型。QwenPaw推荐的是Qwen2.5系列,但具体用哪个size,取决于你的显卡显存:
| 显卡/内存 | 推荐模型 | 命令 |
|---|---|---|
| 24GB+ 显存 | qwen2.5:14b | ollama pull qwen2.5:14b |
| 12-16GB 显存 | qwen2.5:7b | ollama pull qwen2.5:7b |
| 8GB 显存 | qwen2.5:3b | ollama pull qwen2.5:3b |
| 没有独显 | qwen2.5:1.5b | ollama pull qwen2.5:1.5b |
实测数据:qwen2.5:7b在一张RTX 3060(12GB)上跑起来完全OK,回复速度大概3-5秒一个字。14b需要3080以上才不卡。
拉模型需要等一会儿(取决于网速),等命令行回到>>>就说明好了。
这里踩的坑:我一开始想直接拉14b,结果显存不够,ollama报错"model requires more memory than available"。后来查了半天才发现是显存不够,自动降到了CPU模式,速度慢到无法使用。建议第一次装先用7b验证流程,确认跑通了再换大模型。
第三步:配QwenPaw——改三行配置就够用
模型到位之后,开始装QwenPaw本体。
git clone https://github.com/modelscope/agentscope.git
cd agentscope
pip install -r requirements.txt
然后找到配置文件:
cp config-template.yaml config.yaml
打开config.yaml,需要改三行:
# 模型配置:改成你刚才拉的模型
model_type: ollama
model_name: qwen2.5:7b
model_path: http://localhost:11434
渠道配置:按需开,不一定要全开
channels:
- wechat # 微信
- imessage # iMessage(macOS限定)
# - dingtalk # 钉钉
# - feishu # 飞书
# - telegram # Telegram
保存,运行:
python run_qwenpaw.py
看到类似这样的输出就说明跑通了:
✅ QwenPaw initialized
✅ Channels connected: wechat, imessage
✅ Memory layer loaded
这里踩的坑:YAML文件里如果有中文注释,有时候会报编码错误。解决方案:把config.yaml存成UTF-8编码(不要用默认的GBK),或者删掉所有中文注释。
配置完成之后:还需要做两件事
三步走完,QwenPaw理论上已经跑起来了。但要让"数据真的在自己机器上"这件事成立,还需要确认两点:
1. 数据存在哪?
默认情况下,对话历史存在~/.qwenpaw/memory/目录下。你可以打开这个文件夹看看——里面有没有.json文件?如果有,说明本地记忆系统在正常工作。
2. 七渠道要不要全开?
我的建议:不要。
全开七个渠道听起来很爽,但实际用起来你会发现消息会在各个平台重复推送,调试的时候很痛苦。
更实际的做法是按场景选两个:
- 轻量版(适合个人用户):微信 + iMessage
- 进阶版(适合开发者):微信 + Telegram
- 企业版:钉钉 + 飞书 + 微信
全开是测试用的,日常两个够了。
配置成本和收益,到底值不值?
坦白说,QwenPaw的配置确实不简单。三个命令能跑起来,但跑得舒服、跑得安全,需要花时间调。
值不值,我的判断:
- 如果你只是"偶尔问个问题" → 不值得,直接用ChatGPT更省事
- 如果你每天重度使用,并且对数据隐私有要求 → 值得,两晚上换一辈子数据主权
配置虽然麻烦,但跑通之后,你跟AI的每一次对话、每一个偏好、每一份工作记录,都存在你自己的硬盘上——这个感觉是云端服务给不了的。
🛠 老姚的工具箱
实测不易,我把文中提到的配置文件、报错修复脚本、显存自查命令都打包整理好了,放在个人站的「智汇数字」专区。
为了区分平台广告和我提供的服务,这里统一说明:
- 官网/配置包:👉 https://www.fa-ka.vip/?from=wechat
- 网盘权益:存放大体积训练集/配置文件,回复「网盘」获取会员通道
- 闲鱼店铺:搜「老姚轻创业」获取同款工具包
你配QwenPaw的时候踩了什么坑?在评论区说说,帮后面的人避一下。
或者你正在用什么替代方案?本地大模型还是云端API,哪个更符合你的使用场景?留言聊聊。
夜雨聆风