乐于分享
好东西不私藏

本地部署大模型实现AI助理 ≈ 组装1台电脑 + 安装2个软件+关联微信

本地部署大模型实现AI助理 ≈ 组装1台电脑 + 安装2个软件+关联微信
AI逐渐融入了日常工作和生活,基于数据安全的考虑,本地部署的AI助理,融入了自己的工作,实现了好多功能,也有好多的AI给的惊艳的沟通。然后跟朋友分享的时候总有几个经常提及的问题

1、本地部署是啥?

答:就是组装一台式机,安装windows系统(高手用linux多),然后把软件和大模型安装好。

2、本地部署安全?

答:数据在自己的电脑上,大模型也在自己电脑上。答案自己考虑。
如果还担心,就问自己你的手机安全么?你会乱安装一些不明不白的软件么?

3、如何跟AI助理沟通?

答:微信,企业微信,钉钉,QQ,飞书,imessage(苹果)等等都可以远程跟AI助理聊。跟日常聊天一样,微信里会有一个微信clawbot的好友。
  • 第一步:组装一台电脑

显卡(显存)16G*2张,
内存 32G*2(只看内存和显存)
  • 第二步:安装2个软件

  • 用的什么软件?
Qwenpaw(阿里系的)和LM studio
  • 大模型的选择?
Qwen3.6 27B(别叨叨其他的Moe专家模型快,能用到崩溃,还是稠密模型好用)
  • 第三步:关联微信

Qwenpaw的关联方式的扫码加微信即可
以上是简要的回答,如果还有其他问题,评论区见。
AI台式机配置推荐,可以看另外一篇文章
推荐一本书:凯文.凯利的《未来10000天的可能》,未来的薪酬收入,取决于拥抱AI的程度。