ARTICLE · 1240123
LM Studio 搭专属知识库:文档不出电脑,AI
LM Studio 搭专属知识库:文档不出电脑,AI
LM Studio 搭专属知识库:文档不出电脑,AI
电脑里躺了一堆资料,真要用时要么自己 Ctrl+F 翻半天,要么全扔给云上 AI。可有些客户方案、内部笔记,你敢往网上传吗?我干脆用 LM Studio 在本地搭了个知识库。
先拉个 891.83 MB 的 MiniCPM5 1B 模型,比一首无损歌大不了多少。没挂文档前我问它 AIGC 知识产权挑战,它张口就来五条,连我把“知识产权”打成“支持产权”都跟着错。小模型只会顺着你编,根本没纠错能力。
想让它答准,得靠 RAG 机制。说白了就是下个 nomic-embed-text 模型,把你的文档切成小段打上“语义指纹”。你一提问,它就先去原文里找最相近的几段,再让聊天模型照着原话答。
结果我这台老爷机刚把文档拖进去,检索一跑,电脑直接重启了。硬件才是第一道门槛,内存小的千万别贪大。这东西只适合个人当个“资料副驾”,企业级需求就别硬上了。
原文LM Studio 搭专属知识库:文档不出电脑,AI 随问随答
北京,46分钟前,















































































