乐于分享
好东西不私藏

不用交月费,自己搭一个永不掉线的 AI 助手

不用交月费,自己搭一个永不掉线的 AI 助手

上周需要临时搭一个内部问答机,既要接模型,又要让不懂代码的同事能直接用,我找了半天,最后把 AingDesk 装上了。

先给个结论:如果你家里或公司里已经有一台常开的机器,又想低成本跑个自己的 AI 助手,这个项目值得试试。

这是什么

AingDesk 是一个以“本地模型 + 知识库 + 智能体”为核心的 AI 助手软件,适合跑在 Mac、Windows,也能用 Docker 部署到服务器上。它不直接卖模型,而是帮你把模型、资料、对话统一管理起来。

第一次打开什么感觉

安装完后的界面很干净,像普通桌面软件。左侧导航把“对话”“知识库”“本地模型”“设置”分得清清楚楚,不需要先读文档也能猜到怎么用。

我第一件事是在设置里配了本机的 Ollama 地址,然后直接搜模型装进去。它本身不会替你跑模型,但把调用入口简化了,不用再记一堆 IP 端口。

三个我用得最多的功能

本地模型管理

如果你有 Ollama,这里能搜到常见模型并快速部署。小模型在轻薄本上跑得很轻,大模型扔到服务器上也没问题。

知识库

我往里丢了几百份文档,对话时就能让我限定它们回答,大量内部资料再也不用复制粘贴好几遍。这个场景最直观的价值,就是让同一个助手在不同任务下切换上下文。

联网搜索 + 智能体

多模型还没完全放出来,但现有的联网搜索和智能体模板已经把“只靠模型”提升了一个档。做客服问答、起草公文、汇总网页,都比纯聊天更可靠。

跟同类方案比,区别在哪

网上这类工具已经很多了,但 AingDesk 更偏“个人/小团队可用”。主站支持和 Docker 部署,机器在哪服务就在哪;内置知识库不需要再去踩别的向量数据库。

我对比过同类型的开源项目。有的界面太复杂,同时上手要两小时;有的只做前端,模型还是要自己跑。AingDesk 的取舍是功能做在 70%,好用先戳破天花板。

真实 limitations

第一,项目还比较年轻。我知道的几个小问题:部分双语 UI 混排、错误提示偏笼统、社区插件没有形成生态。

第二,Windows 原生版目前体验不如 macOS 和服务器版。如果主力是Windows,更推荐 Docker 跑,体验反而更稳。

第三,用本地模型等于硬件责任在你。这不是软件的问题,但新手得先接受:1.5B 小模型够聊天,复杂任务就得换大模型。

适合谁

家里有旧机器跑服务的极客、需要内部 AI 助手的小团队、不满足于通用 AI 但不想从头写代码的人。

我把自己那台常年开着的云服务器用 Docker 装了一套,现在编辑部问资料、查文档、起草文案都走它,比通用聊天靠谱不少。

底部

AingDesk 现在还在快速更新。我每次打开都会发现多了个小功能,说明团队在认真迭代。

装一个玩玩,成本不高,但可能会改变你对待自己那台闲置电脑的方式。

项目地址:

https://github.com/aingdesk/AingDesk