乐于分享
好东西不私藏

你的手机就是一台 AI 服务器!这款开源 App 让你彻底告别网络依赖

你的手机就是一台 AI 服务器!这款开源 App 让你彻底告别网络依赖

完全离线运行 · 支持 20+ 大模型 · 视觉理解 · 图像生成 · 语音识别 · 隐私优先


🔋 痛点:AI 必须联网?那是过去式了

你有没有遇到过这些场景?

  • 地铁/飞机上
    :想用 AI 帮忙,没信号,干瞪眼
  • 隐私顾虑
    :不想把公司/个人的私密数据上传到云端
  • 流量告急
    :频繁调用 AI API,话费和流量顶不住
  • 数据安全
    :核心文档、商业机密不敢交给第三方 API

其实,你的手机早就足够强大。


💡 解决方案:Aillam-App — 完全离线的手机 AI 助手

Aillam-App 是一款真正在手机上本地运行的 AI 助手。不需要联网,不需要云服务,所有推理在本地完成,数据不会离开你的手机。

GitHub:https://github.com/dmych1989/Aillam-App 许可证:MIT(可商用、可二次开发)


🎯 七大核心能力

能力
说明
完全离线
不需要互联网,一切在本地运行
LLM 对话
支持 20+ 主流模型(Gemma 4 / Qwen 3.5 / Llama / DeepSeek)
视觉理解
支持多模态视觉模型,分析图片内容
图像生成
集成 Stable Diffusion,端侧运行
语音转文字
离线 Whisper 语音识别
MCP 工具系统
Web 搜索、Bing 图片搜索等工具支持
隐私优先
无需注册,没有追踪,数据不上传

📱 支持的平台

✅ Android — arm64-v8a 架构,API 24+ ✅ iOS — iOS 15.0+,需 Xcode + Apple Developer 证书构建


🤖 支持哪些模型?(20+ 款,总有适合你的)

🏆 主流模型一览

Google Gemma 4 系列

模型
参数
大小
推荐机型
Gemma 4 E2B
2B
~1.8 GB
4-6 GB 内存
Gemma 4 E4B
4B
~3.6 GB
6-8 GB 内存

阿里 Qwen 3.5 系列

模型
参数
大小
推荐机型
Qwen 3.5 0.8B
0.8B
~540 MB
3-4 GB 内存
Qwen 3.5 2B
2B
~1.4 GB
4-6 GB 内存
Qwen 3.5 9B
9B
~5.7 GB
8+ GB 内存

Meta Llama 系列

模型
参数
大小
推荐机型
Llama 3.2 1B
1B
~780 MB
3-4 GB 内存
Llama 3.2 3B
3B
~2.0 GB
6 GB 内存
Llama 3.1 8B
8B
~4.9 GB
8+ GB 内存

DeepSeek R1 系列

模型
参数
大小
推荐机型
DeepSeek R1 7B
7B
~4.4 GB
8+ GB 内存

💡 速选指南

  • 3-4 GB 内存
    :SmolLM2 360M / Qwen 3.5 0.8B / Llama 3.2 1B
  • 4-6 GB 内存
    :Gemma 4 E2B / Qwen 3.5 2B / Phi-4 mini
  • 6-8 GB 内存
    :Qwen 3.5 9B / Qwen 2.5 7B / Llama 3.1 8B
  • 8+ GB 内存
    :DeepSeek R1 7B / Gemma 4 E4B

所有模型使用 llama.cpp 引擎加载,推荐量化等级 Q4_K_M(最佳平衡)。


🎨 图像生成(端侧运行)

App 内集成 Stable Diffusion 模型,使用 MNN 引擎,支持 GPU 和 NPU(高通 8Gen2+)两种后端:

模型
后端
Anything V5
GPU / NPU
Absolute Reality
GPU / NPU
ChilloutMix
GPU

iOS 设备自动使用 CoreML 模型


🎤 语音识别(离线版)

集成 Whisper.cpp 引擎,支持离线语音转文字:

  • Whisper Tiny
    (75 MB)— 推荐中文用户使用多语言版
  • Whisper Base
    (142 MB)— 更高准确率
  • Whisper Small
    (466 MB)— 最佳效果

🛠️ 技术架构(开发者必读)

技术栈

框架:React Native 0.83.7 LLM 引擎:llama.rn (llama.cpp) 语音引擎:whisper.rn (whisper.cpp) 图像引擎:MNN / QNN (Qualcomm NPU) 状态管理:Zustand + AsyncStorage 国际化:i18next 导航:React Navigation 动画:React Native Reanimated

项目结构

src/ ├── assets/            # 图标、图片资源 ├── components/        # 可复用组件(聊天、模型选择、设置) ├── constants/         # 常量定义(模型列表、量化信息) ├── hooks/             # 自定义 React Hooks ├── i18n/              # 国际化(zh.json / en.json) ├── navigation/        # 路由导航配置 ├── screens/           # 页面(聊天/设置/模型管理) ├── services/          # 核心服务(模型管理/Whisper/Web 搜索) ├── stores/            # 状态管理(Zustand + AsyncStorage) ├── theme/             # 主题(深色模式支持) ├── types/             # TypeScript 类型定义 └── utils/             # 工具函数

📲 快速上手

Android 安装

目前没有上架应用商店,需要自行构建:

# 1. 克隆项目 git clone https://github.com/dmych1989/Aillam-App.git cd Aillam-App  # 2. 安装依赖 npm install  # 3. 构建 APK cd android ./gradlew assembleRelease  # APK 输出:android/app/build/outputs/apk/release/app-release.apk

构建要求

工具
版本
Node.js
≥ 18.x
Java
OpenJDK 17+
Android SDK
API 34+, build-tools 34+
Xcode (iOS)
≥ 15.0
CocoaPods (iOS)
≥ 1.15

快速打包(已构建过一次后)

npm run bundle:android python _build/repack_v11.py

仅替换 JS bundle,不重新编译 Native 代码,大幅节省构建时间。


🔒 隐私安全

这是最大的卖点:

✅ 不联网 — 没有任何数据离开你的手机 ✅ 不注册 — 无需账号,即装即用 ✅ 不追踪 — 没有用户行为收集 ✅ 不收费 — 完全开源免费,MIT 协议 ✅ 可商用 — 自由修改和分发


🌟 适用场景

  • 差旅人士
    :飞机高铁上也能用 AI
  • 隐私敏感
    :处理公司机密、个人隐私数据
  • 学生党
    :省钱,不用买 API 额度
  • 开发者
    :研究端侧 AI 推理的最佳参考
  • IoT 场景
    :定制化边缘 AI 方案

📥 相关链接

  • GitHub 仓库
    :https://github.com/dmych1989/Aillam-App
  • 原始项目
    :Off Grid
  • 许可证
    :MIT License
  • 维护者
    :山以命相卜

💬 写在最后

Aillam-App 代表了一种趋势——AI 正在从云端走向端侧

  • 4 GB 内存的手机就能跑 2B 大模型
  • 8 GB 内存就能跑 DeepSeek R1 级别的模型
  • 完全离线,数据安全,免费开源

这不仅仅是技术上的突破,更是 AI 民主化的重要一步。

如果你也在关注端侧 AI、移动端大模型部署、隐私计算方向,这个项目值得 Star 和关注!

让你的手机,变成最懂你的 AI 助手。


关键词:离线 AI、手机端大模型、本地推理、React Native、AI 隐私保护、端侧 AI、开源 AI 助手

标签:#AI #开源 #隐私保护 #端侧 AI #ReactNative #大模型 #Gemma #DeepSeek