夜雨聆风
普通人轻松上手的私有文档构建知识库软件
普通人轻松上手的私有文档构建知识库软件
「READING」
1
只为让普通小白的我们，也可以轻松使用GITHUB开源的软件。
在我们经常使用AI时，总是会能一个疑问。个人的资料或者公司的内部资料怎么让AI来管理呢？
与AI的自然语言交互，AI快速给出问题的结果、分析以及方案。这是我们非常需要的，但出于隐私与安全的要求，不可能将数据全部喂给公众的大模型。
聪明的小伙伴说了：那就搭建一个自用的开源大模型。方案可行的，但成本极高，与中小公司或个人是没法接受的。
所以，这时候就有了一个叫作RAG的技术推出。检索增强生成（RAG）是融合LLM与外部知识检索的AI框架，作为In-Context Learning延伸实现。通过动态引入外部知识，解决传统LLM知识固化、幻觉生成、数据安全问题，提升知识时效性、事实准确性与回答针对性。
实现RAG的工具很多，但学习难度也是非常陡峭的。直到版主我遇到–Anythingllm。
这软件出来也有段时候，但之前效果一直平平，但最近的anythingllm还是让人有点爱不释手呢。
我们就来看看它能给我们什么惊喜吧。
AnythingLLM是AnythingLLM 是一款一体化的人工智能应用，让你打造一个私密、功能齐全的 ChatGPT——毫无妥协。连接你喜欢的本地或云大型语言模型，导入文档，几分钟内开始聊天。开箱即用，内置代理、多用户支持、矢量数据库和文档流水线——无需额外配置。一体化的人工智能生产力加速器。设备和隐私优先，没有烦人的设置或配置。
AnythingLLM的特点：
-
智能技能选择为你的模型启用无限工具，同时每次查询最多可减少 80%的令牌使用率
-
无代码 AI 代理构建器
-
完全兼容 MCP
-
多模态支持（包括闭源和开源的大型语言模型！）
-
自定义 AI 代理
-
👤 仅支持多用户实例和权限的 Docker 版本
-
🦾 你工作区内的代理（浏览网页等）
-
💬 仅适用于你网站的自定义嵌入聊天小部件 ， 仅支持 Docker 版本
-
📖 支持多种文档类型（PDF、TXT、DOCX 等）
-
直观的聊天界面，支持拖拽上传和来源引用。
-
适用于任何云部署的生产环境。
-
支持所有流行的闭源和开源 LLM 提供商 。
-
内置对大型文档集的优化——比其他聊天界面更低成本，响应更快。
-
完整的开发者 API，用于自定义集成！
-
…等等。
下面随我简单安装配置一下吧！
如何下载
AnythingLLM
官网地址：
https://github.com/Mintplex-Labs/anything-llm
有小伙伴说了，我知道，是不是直接git clone。
少侠稍等！这次我推荐直接去它们的官网安装。
桌面版地址：
https://anythingllm.com/desktop
WINDOWS系统就点击【Download for Windows (x64)】进行下载。
软件安装
下载的为可执行版本，双击进行安装。
选择一个路径，就一路NEXT。
安装完后，就双击桌面的【AnythingLLM】图标进行启动。
现在我们只要简单配置一下，就可以使用了。我们需要切换到配置界面。
就是左下角，4个小图标最右边的【小扳手】图标。
请版的AnythingLLM提供了不少的免费大模型，选择你喜欢的，双击进行模型的下载。
你会在右上角看到下载的进度：
看到这个提示框，就代表你成功下载了这个大模型。
这软件对嵌入模型会自动下载，向量数据库也自动提供，所以我们要设置的地方很少的。
返回到界面，我们测试一下：
很好，一切正常。
现在我们要给它喂本地的数据，选择【工作区】的【上传】图标。
首先，我们需要将文档（TXT,CVS,PDF等）拖入到红色区域，进行文档的上传。
成功后，会在红色上面的列表框中看到我们上传成功的文件了。
然后在列表中选择一个或多个文档，移动到工作区，如下图：
可以看到右下角多了一个按钮【保存并嵌入】，点它。这一步是将本地文件进行向量化，存入向量数据库中，以后AI就可以查询到它了。
好了，我们本地的知识灌输成功了，来考一考它吧。
当我问它，只有我们知道的问题时，比如【帮我查查某个公司的业务员】，它很快给出了正确的回复。
是不是令人激动！我们可以把本地需要管理的资料全部喂给它，哪天我们忘了些什么的时候，就让它帮我们回忆吧！
如果你也喜欢这个软件，就去下载安装吧！
让小白也能用上免费好用的软件
喜欢我的文章，就关注我吧；
一起学习，一起努力；