一份 100 页 PDF 放在电脑里,大多数人的处理方式只有两种:收藏起来,或者硬着头皮往下翻。
真正需要找某个结论、某条规则或某段参数时,又得从头搜索。文件明明在手上,信息却像没在身边。
把资料变成“随问随答”,比让 AI 写一篇空泛文章更实用。
这篇只做一件事:用 Ollama 在本地运行模型,用 AnythingLLM 导入一份 PDF 或 Markdown,让它围绕自己的资料回答问题。
文件留在电脑里,先从一份不敏感的资料试起。
先看这套流程
第一次不要导入整块硬盘。选一份 10~100 页、自己熟悉的资料,验证它是否真的读懂。
01|Ollama:先让本地模型回答一句话
Ollama 是本地 AI 的底座。安装后,它负责把模型下载到电脑并运行起来。
最小可行测试
从官方页面安装 Windows 版 Ollama。 打开 PowerShell,运行下面这条命令:
ollama run qwen3:8b下载结束后,输入“用三句话解释什么是 PDF”,确认模型能正常回应。
电脑配置一般时,先选小模型。模型越大,答案通常更从容,但内存、显存和等待时间也会跟着增加。
截至 2026-08-15,Ollama 官方仓库约有 17.9 万 Stars,最新 Release 为 v0.32.13,采用 MIT 许可证:
官方项目页:https://github.com/ollama/ollama 官方下载页:https://ollama.com/download 官方 Release:https://github.com/ollama/ollama/releases/tag/v0.32.13
8GB 内存的电脑先用更小模型;16GB 以上再尝试 7B/8B 级模型。没有独立显卡也可以运行,只是生成速度可能较慢。
02|AnythingLLM:把资料放进一个工作区
模型能聊天,还不等于它知道你的 PDF。
AnythingLLM 的作用,是建立一个独立工作区,把你导入的资料做成可检索内容。后续提问时,它会优先从这些资料里找答案。
第一次导入,按这 4 步做
安装 AnythingLLM 桌面版,新建一个“测试资料”工作区。 在模型设置中选择 Ollama,把地址填为:
http://127.0.0.1:11434选择刚才下载的本地模型,再导入一份 PDF 或 Markdown。 先问“这份资料分成哪几个部分”,再问一个文中明确写过的问题。
不要一开始就问复杂结论。先确认它能复述目录、定位章节、回答原文里的明确事实,才说明资料已经正确进入工作区。
截至 2026-08-15,AnythingLLM 官方仓库约有 6.5 万 Stars,最新 Release 为 v1.16.0,采用 MIT 许可证:
官方项目页:https://github.com/Mintplex-Labs/anything-llm 官方 Release:https://github.com/Mintplex-Labs/anything-llm/releases/tag/v1.16.0
PDF 如果是扫描图片而不是可复制文字,先做 OCR。模型看不见没有被识别出来的文字,也不该把猜测当成原文结论。
问什么,才能真的省时间
别只问“帮我总结”。更有用的提问方式是把任务说具体:
“这份资料里列了哪些安装前提?” “第 3 章关于费用的规则是什么?” “找出文中出现过的三个风险点,并标明对应章节。” “把这份会议纪要里的待办事项列成清单。”
问题越接近实际动作,答案越容易直接拿去用。
值不值得搭
只有偶尔问一两句,直接用 Ollama 聊天就够了;经常翻课程资料、产品文档或会议纪要,再加 AnythingLLM 才有价值。
先用一份公开或不敏感资料跑通流程。能准确回答原文问题,再把重要文件逐步放进去。
项目版本、模型名称和安装方式会持续变化,安装前以官方项目页和 Release 页面为准。
夜雨聆风