夜雨聆风学习资料网

ARTICLE · 1036054

8G内存的破电脑别扔:5个本地AI小模型我挨个拉下来跑了一遍

8G内存的破电脑别扔:5个本地AI小模型我挨个拉下来跑了一遍

Ollama那篇教程发出去,后台问得最多的一句话是:我电脑就8G内存,到底能跑哪个?

说实话,这个问题我自己也好奇。于是这两天我把5个标称低配能跑的模型挨个用ollama pull拉了下来,拿同一组活儿去试:日常问答、写段中文、解释代码、算个小账。

先把结论撂在这:8G内存确实能跑本地AI,但不是随便挑。选错了,风扇狂转、一句话吐十秒,你会以为电脑要炸。下面这5个,是我筛完真正能用的。

💡 8G内存能不能玩本地AI?能。关键不是"参数越大越好",而是模型和你的活儿要对上。

先说怎么装,一行命令的事

装过Ollama的直接跳过。没装的去 ollama.com 下个安装包,Win、Mac都支持,一路下一步。装完打开终端(Windows是PowerShell),输入:

$ ollama run 模型名

回车,它自己下载、自己启动,下完直接进入对话界面,就能打字问了。不想聊了输入 /bye 退出。模型下载一次就存在本地,以后再用秒开,不重复花流量。

下面5个,全部都能这么一行搞定。

1. Qwen3:4b —— 日常首选,中文最顺

安装命令(复制即用):

$ ollama run qwen3:4b

下载体积大约2.5G,运行占4G左右内存。

这是5个里我最愿意留着天天用的。阿里通义千问的开源版,中文是它的主场,你用大白话问,它不跟你端着。写个请假条、解释一段报错、总结一份长文档,都稳。

一个坑提前说:Qwen3默认开"思考模式",回答前会先哼哼唧唧推理一大段,低配机上这段最磨时间。嫌慢就在对话里输入 /set parameter think false 关掉,或者提问时直接加一句"别思考,直接答",速度立刻快一截。

2. Gemma3n:e2b —— 谷歌家的,能看图能听声音

安装命令(复制即用):

$ ollama run gemma3n:e2b

磁盘上大约1.55G。

谷歌专门给手机、笔记本这类设备做的型号。名字里的E2B有点意思:原始参数看着像50亿,但它用了个叫"逐层嵌入"的省内存技术,实际占用跟20多亿的小模型差不多。

我试它是冲着多模态去的——这是5个里少数能直接看图的。丢张截图让它说图里写了啥、帮你认个菜单,都行。纯写中文它不如Qwen顺,但涉及看图、处理点音频相关的活儿,这个体积下基本没对手。

3. Phi-4-mini —— 微软出品,算账和推理的怪咖

安装命令(复制即用):

$ ollama run phi4-mini

38亿参数,Q4量化后大约3.5G内存。

微软这个小模型脾气很鲜明:话不多,但算数、讲逻辑是真硬。它有个专门的推理版本phi4-mini-reasoning,官方给的数据里,数学测试MATH-500能跑到94.6分,超过不少体积翻倍的模型。

但坑也在这。推理版喜欢先写一长串思维链,8G内存纯CPU跑起来,你能去倒杯水再回来看答案。而且它毕竟是微软家的,中文表达偶尔有点翻译腔。我的建议:日常聊天别用它,真要算个分期、理个逻辑、解个题,再请它出山。

4. DeepSeek-R1:1.5b —— 想体验"会思考",用它入门

安装命令(复制即用):

$ ollama run deepseek-r1:1.5b

5个里最小的之一,1G出头就能跑。

DeepSeek的蒸馏小模型,带R1那套"先想后答"的路子。它最大的价值是让你在一台破电脑上,亲眼看看推理模型是怎么一步步琢磨问题的,门槛极低。

得说实话,1.5B这个体格,智商上限摆在那,复杂点的问题它会绕、会出错,别指望它干正经活。我的定位很清楚:给孩子看个新鲜、自己学习理解"思维链"是什么、或者电脑实在拉不动别的,当个保底。

💡 没有最好的本地模型,只有最配你那台电脑的模型。跑得动,才用得起来。

5. Llama3.2:3b —— Meta的老实人,英文活稳

安装命令(复制即用):

$ ollama run llama3.2:3b

Q4量化后大约2G文件、3.5G上下内存。

Meta的开源老牌,生态最成熟,教程、第三方工具一搜一大把。英文资料处理、写英文邮件、看英文报错,它很可靠,回答风格也克制不啰嗦。

短板同样是中文。它不是不能说中文,是说出来的味道和准确度,明显被Qwen3压一头。如果你主要处理中文,它排后面;如果工作里英文内容多,它值得占一个坑。

我自己的搭配建议

别贪多,8G内存留两个就够:

▪️ 主力装 qwen3:4b,九成日常中文活都归它,记得关掉思考模式提速;

▪️ 再按需求补一个——常看截图选 gemma3n:e2b,常算数理逻辑选 phi4-mini,英文多选 llama3.2:3b;

▪️ deepseek-r1:1.5b 当体验款和保底,跑不动别的时它永远能顶上。

还有个最实在的提醒:跑之前把浏览器、微信这些占内存的大户关掉几个。8G是真8G,系统自己还要占两三G,留给模型的余量没你想的那么宽。开着十几个网页硬跑,再小的模型也得卡给你看。

顺便给两个我自己摸索出来的小操作。想知道电脑到底多大内存,Windows右键任务栏开"任务管理器",在"性能"那一页看;Mac点左上角苹果图标、选"关于本机"。模型装多了占硬盘,用 ollama list 能看到所有已下载的和各自体积,想删哪个就 ollama rm 模型名,干干净净。

本地AI这事儿,门槛真没那么高。你不需要新电脑,也不用每月掏会员费,一个下午就能把自己的离线助手搭起来,数据还不出本机。

关注深度思考.ai实践,我只写照着做就能上手、能省钱的AI实操。这个「普通电脑玩转AI」系列会一直更,关注后下一篇第一时间推给你。下期写《本地AI和在线AI到底怎么分工》,告诉你哪些活该交给本地、哪些老老实实上网用。

觉得有用,转给那个总说"我电脑太烂玩不了AI"的朋友——他的电脑大概率行。

点「阅读原文」,直达Ollama官网和模型库,命令复制过去就能跑。

相关学习资料