ARTICLE · 1360297
手机本地大模型App哪个好用?3个能离线跑
点进去一看,国内应用商店下不到,或者要科学上网。
这篇不聊框架,聊App:国内能直接装、真能离线跑的 3 个,以及你该装哪个。
一、30秒结论表
先对号入座,再往下看:
⚠️ iOS 用户:第一选择是 MNN-Chat。口袋AI 的 iOS 版要自己用 Xcode 构建,普通用户装不上。
二、为什么不是"网红"App
你搜到的那几款,不是不好,是国内用不了或折腾:
PocketPal / MLC Chat / Google AI Edge Gallery:国内应用商店没有,模型下载要科学上网;MLC Chat 的 iPhone 版 2024 年 9 月后就没更新过;Google AI Edge 在千元机上实测慢到两三分钟才答一题。 厂商自带的"手机AI"(小艺、蓝心、澎湃这些):备案 ≠ 离线推理。很多是端云协同——有网时悄悄调云端,断网就废。别被"手机AI"的宣传骗了,要真离线,得装本地模型 App。
为什么会这样?这些 App 大多是海外个人开发者或小团队做的,上架走 Google Play / App Store 美区,模型托管在 Hugging Face,国内自然下不到。这 3 个恰好绕开这两道坎:要么内置国内镜像,要么模型走国内源、本体走开源渠道装。
三、3个能离线跑的,逐个说
1. 口袋AI(PocketWisdom)——安卓最省心
它是开源软件 PocketPal 的二次开发,专为国内做了三件事:中文界面、中文模型优先、内置镜像加速。
模型按用途命名,不用懂量化参数:口袋助手 mini(0.8B,约 0.5GB)、标准版(2B,约 1.3GB) 默认推荐 mini,官方说所有手机都不卡,还能看图;想更聪明选 2B 下载走国内镜像(hf-mirror + 魔搭 ModelScope),不用科学上网 短板:安卓直接下 APK 就能装;iOS 要自己用 Xcode 构建,普通用户装不上
一句话:安卓上"装完就能用"的默认选择。不想折腾、想要中文,选它。
三步上手:打开 App → 模型页下「口袋助手 mini」(约 0.5GB)→ 点「加载」就能聊。登录可选,不登录也能完整用。
2. MNN-Chat(阿里)——门槛最低,双端能装
阿里 MNN 系的"模型市场"型 App,模型在 App 里直接下,不用自己找文件。
Qwen3.5-0.8B 约 500MB,Android 10 以上、预留 1GB 空间就能跑 安卓 / iOS 都能装(这是它的优势,口袋AI 做不到) 参考实测:旗舰机跑 0.8B 速度可观——但那是旗舰跑 0.8B,别套到你的中端机上(速度跟机型强绑定,网上数字换台手机就作废) 缺点:界面朴素,有用户反映加载模型偏慢、模型列表不显示大小
一句话:最容易跑通的一个,双端用户都能用。但别指望它界面精致。
上手:模型市场里搜 Qwen3.5-0.8B-MNN,点击下载(走魔搭线路,国内快),下载完直接加载。
3. Termux + llama.cpp——折腾党,控制力最强
把桌面那套 GGUF 世界整个搬到手机,模型随便换、参数随便调,还能开 API 服务。
Termux 别装应用商店版(Play 版停更、仓库是坏的),走 F-Droid 或 GitHub Releases 编译必须在 Termux 家目录进行,放 /sdcard必报 Permission Denied量化选 Q4_K_M(甜点档);Vulkan 加速"成不成看运气",先纯 CPU 跑通再加 跑通后 llama-server起 8080 端口,同 Wi-Fi 的电脑能把手机当小 API 节点用
一句话:要控制力、不怕折腾,选它。代价是半小时起步的终端操作。
最短路径:F-Droid 装 Termux → 在 Termux 家目录 pkg install 依赖 → 把 Q4_K_M 的 GGUF 模型放进 Termux 目录 → llama-cli -m 模型.gguf -cnv。
四、按手机配置选档
能跑多大模型,看内存,不看芯片:
6GB 内存 → 1.7B 流畅(约 1.1GB 文件) 8GB 以上 → 3B-4B 能跑(约 2.5-2.7GB 文件) 4GB 以下 → 不推荐,硬跑会卡到怀疑人生
芯片影响速度,不决定能不能跑:骁龙 8 系能用 NPU 加速更快;天玑/中端只走 CPU,速度大概慢三分之一。
先测速,再定档。别一上来就下最大的——App 里大多带测速,先跑一次看你的机器一秒能出几个字,再决定要不要往上加。先用 0.8B 试一周,看自己打开频率:一天开不了三次,说明这功能对你不是刚需,没必要追大模型。
⚠️ 发热降频是最大敌人:手机没有主动散热,连续推理几分钟就温控降频。所以本地模型适合"问一句答一句",不适合闷头跑长任务。
内存不只算模型文件。0.8B 的文件只有 0.5GB,但跑起来还要算推理时的缓存 + 运行时,实际要的可用内存比文件大。8GB 手机别硬塞 7B——文件 4GB 多,加运行时直接爆,换来的是"加载失败"或"卡到没反应"。这也是为什么 3B-4B 是 8GB 机的实用上限。
什么时候回云端?本地小模型的上限很清楚:日常问答、摘要、翻译、离线兜底够用;但复杂推理、长代码、要最新事实的,本地模型知识更新慢、事实错误率更高——这时候别硬扛,回云端。
走一遍(三个真实场景):
老王:8GB 安卓旗舰,就想周末飞机上离线聊天 → 装 口袋AI,下「口袋助手 mini」,下载即用。
小丽:iPhone,不想折腾 → 装 MNN-Chat(口袋AI 的 iOS 要自己构建,别硬来)。
阿强:中端安卓,想自己调模型、把手机当 API 用 → Termux + llama.cpp,半小时换全套控制。
三个人,三台设备,落到三个 App。没有"对所有人最好"的,只有"对你这台手机够用"的。
五、踩坑清单
先连 Wi-Fi 下模型:模型文件 1-4GB,要联网下载一次;下完飞行模式也能用。流量下到一半断网,前功尽弃。 安卓会杀后台:小米/三星/一加最狠,推理到一半被结束。把 AI 应用锁在最近任务 + 电池优化白名单。 模型放对地方:多数应用要求模型放应用私有目录,不是"下载"文件夹;外置存储有的 ROM 打不开。 别被"手机AI"宣传骗:备案 ≠ 离线,端云协同不等于本地跑(承接第二节)。
三个 App,三种取舍:要省心选口袋AI,要门槛低选 MNN-Chat,要控制选 Termux。先看你的手机内存,再对号入座。
这是《端侧落地踩坑手册》第 4 篇。前几篇讲了精度掉点定位、三框架选型、部署失败分诊;这篇配套的《本地AI App 选择表》,我压成了一张能直接查的表:按内存选档 + 三 App 对比 + 四个坑。
关注后回复「App表」,直接拿图。
相关阅读:
手机上跑大模型,3个框架怎么选:想自己折腾框架、跑多模态的看这篇 llama.cpp 怎么量化大模型?3步塞进手机:3 步把模型塞进手机 端侧模型部署实战:量化后精度掉点,4步定位:跑不动/精度掉了先看这篇















































































