夜雨聆风学习资料网

ARTICLE · 1377416

手机本地大模型怎么装?安卓这3个App直接能用

手机本地大模型怎么装?安卓这3个App直接能用
你终于决定在手机上装一个本地大模型。去搜"手机本地大模型怎么装",跳出来的教程不是"编译源码",就是"交叉编译""命令行量化"——看三行就劝退。

但你想要的只是:下个 App、装上、能聊。这篇就给安卓用户一条不折腾的路:3 个 App 怎么下、怎么装、装完怎么验真离线。

(上一篇讲了这 3 个 App 怎么选,这篇讲怎么装——姊妹篇,配合着看。)

一、装之前,先看手机这 3 个数

装之前花 30 秒确认三件事,不然装到一半才发现跑不动,白忙一场。

  • 运行内存:进设置 → 关于手机,看"运行内存"。
    • 6GB → 用 1.7B 模型(文件约 1.1GB)
    • 8GB 以上 → 3B~4B 能跑(文件约 2.5-2.7GB)
    • 4GB 以下 → 别硬装,卡到怀疑人生
  • 剩余存储:模型文件最小也要 500MB,留出 2~3GB 再动手。
  • 芯片:设置里看处理器。骁龙 8 系能用 NPU 加速更快;天玑/中端基本走 CPU,速度大概慢三分之一;三年前的老机老老实实用最小档。

一句话:型号能跑多大模型,看内存不看芯片;装多大模型,看你手机还剩多少空间。先定档位,再往下装。

二、App 1:口袋AI(PocketWisdom)——安卓最省心

下载:不想折腾就在电脑/手机浏览器打开它的 GitHub 发行页(搜"口袋AI GitHub"),或者国内快的 GitCode 发行页,下载最新版 APK。包名 com.pocketwisdom,不会和别的软件冲突。

安装:安卓会拦第三方 APK,安装时按提示点"允许此来源安装"(各品牌叫法不同:允许未知来源/外部来源应用)。品牌机可能要输一次账号密码验证。放心,这是正常流程,不是病毒。

首次使用:

  1. 打开 App,不用注册登录
  2. 进"模型"页,下载「口袋助手 mini」(0.8B,约 0.5GB)
  3. 下载走的是国内镜像(hf-mirror + 魔搭),不用科学上网
  4. 下载完点「加载」,开始聊天

想更聪明就换 2B 标准版(约 1.3GB)。全程离线可用,中文界面,日常问答够用。

三、App 2:MNN-Chat(阿里)——门槛最低,开箱即用

下载:阿里官方渠道的 APK,搜"MNN Chat 下载"或去阿里 MNN 的 GitHub 发布页。

安装:要求安卓 10 以上,装之前确认剩余空间有 1GB。

首次使用:

  1. 打开后进"模型市场",搜 Qwen3.5-0.8B-MNN
  2. 点下载(走魔搭线路,国内快,约 500MB)
  3. 下载完直接加载,首次加载约 1-3 分钟,喝口水的功夫
  4. 带"思考模式":遇到长问题会先想一下再答

它的加分项:可以开 API 服务,把你的手机变成一个小模型服务器,同一 Wi-Fi 下其他设备能调它。双端支持(安卓/iOS),这是它比口袋AI 强的地方。

四、App 3:Termux + llama.cpp——愿意敲命令再选它

前两个都不满足(想自己控制模型、想当 API 用、想折腾),才走这条。

  • 下载 Termux:走 F-Droid 官网(Play 商店版停更、仓库是坏的,别装错的)
  • 装依赖:Termux 里敲 pkg update && pkg install llama.cpp(Termux 仓库有现成的 llama.cpp 包;想跟官方最新版走就按 GitHub 文档 clone 编译,参考文末相关阅读)
  • 模型:下载 GGUF 格式文件,量化选 Q4_K_M(甜点档),放进 Termux 家目录(放 /sdcard 会报 Permission Denied)
  • 跑:llama-cli -m 模型.gguf -cnv 命令行聊天;llama-server 起个 8080 端口,同一 Wi-Fi 的设备能连

这条路要半小时起步的终端配置,不适合纯小白。想省事,用前两个。

五、装完,1 分钟验真"真离线"

装好任何一个,做这个测试:

  1. 开飞行模式(关掉 Wi-Fi 和流量)
  2. 打开 App,随便问一句
  3. 能正常出字 = 真离线,模型确实在你手机里

再补一刀:问"把'我去吃饭'翻译成英文",看它是不是真在推理,而不是只会复读。

顺带验证一件事:真离线 vs 厂商"手机AI"的区别。很多手机自带的 AI 是端云协同——有网时悄悄调云端,断网就废。你装的这 3 个是模型真在手机里。飞行模式能答,就是硬证据;飞行模式转圈,说明它还在隔空喊话。

六、常见坑,提前避

  • 安装被拦:品牌机(华为/小米/OPPO)对外部来源管得严,按提示授权+输密码就行;实在不行直接从系统"文件管理器"打开 APK。
  • 装完打不开:多半是内存不够,退回最小档(0.8B,约 0.5GB)那个模型。
  • 下载一直失败:多半是网络问题——换个网络(Wi-Fi/流量对调)或错峰再试;同时确认剩余存储够(模型文件几百 MB 起),App 里下不动很多时候是空间不够了。
  • 跑起来烫手:手机没主动散热,连续聊几分钟就降频。适合"问一句答一句",别指望它跑长任务。
  • 口袋AI 升级装不上:从 1.6.9 及更早版本升新版要先卸载旧版(作者换了签名密钥),直接覆盖安装会失败。
  • 别信"8G 能跑 7B":8GB 手机实际可用只有 4~5GB,模型文件 + 运行缓存 + 系统一算就爆。3B-4B 是 8GB 机的实用上限。

三个 App,一条路走通:先看手机 3 个数选档位 → 下载装好 → 飞行模式验真离线。翻车最多的是"起点跑太高"——先上 0.8B 小模型玩一周,确认日常真会用,再考虑加档。

手机本地大模型没那么神秘,但装的时候该避的坑一个不少:渠道装错(商店版 Termux)、模型放错目录(/sdcard)、档位选太高(8G 塞 7B),都是让人白折腾大半夜的经典剧本。这篇把路线定死,照着走就行。

装好之后,先玩这三件事找感觉:离线问几个日常问题(出门没网也能用)→翻译个句子(0.8B 就够)→ 折腾党再试把它当 API 给电脑调(MNN-Chat / llama-server 都行)。玩一周还觉得每天都会打开,再考虑升档。

这是《端侧落地踩坑手册》第 5 篇。关于手机本地大模型,前面还有两篇铺路:第 4 篇讲怎么选(口袋AI / MNN-Chat / Termux 各适合谁),这篇讲怎么装;其实第 4 篇当时预告的下一篇是"手机 AI 功能怎么关闭",那篇还在打磨——后台问"怎么装"的人最多,先把这篇插队补上。

觉得有用,就关注这个号,踩坑手册持续更新;下一篇讲:手机 AI 功能怎么关闭?这 5 个我建议关掉。

相关阅读:

#端侧AI #手机AI #本地大模型 #科技科普

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料