乐于分享
好东西不私藏

手机从源码构建Ollama完整教程|本地编译运行AI大模型

手机从源码构建Ollama完整教程|本地编译运行AI大模型

手机从源码构建Ollama完整教程

上一篇大部分用户拉取不到

这次多部手机验证

已验证

在Android手机上通过Termux从源码编译安装Ollama,实现本地运行AI大模型

一、前言

之前我们介绍了通过安装包快速安装Ollama的方法,但有些用户可能想要从源码构建最新版本的Ollama。本文将详细介绍如何在手机上从源码编译Ollama,包括环境准备、代码拉取、编译构建、运行使用的完整流程。

适用环境:Termux(Android)

预计耗时:20-40分钟(取决于手机性能和网络速度)

二、环境准备

在开始之前,确保你的Termux已安装以下依赖:

pkg update -y
pkg install -y git cmake wget golang

各依赖说明:

  • git:用于克隆Ollama源代码
  • cmake:C/C++构建工具
  • wget:下载工具
  • golang:Go语言环境(Ollama使用Go编写)

验证安装:

go version
git --version
cmake --version

三、获取源码

从GitHub克隆Ollama源代码:

git clone https://github.com/ollama/ollama.git
cd ollama

如果GitHub访问缓慢,可以使用镜像:

git clone https://ghfast.top/https://github.com/ollama/ollama.git
cd ollama

四、构建Ollama

进入ollama目录后,按以下步骤编译:

步骤1:设置Go代理(国内用户必选)

国内网络访问Go模块仓库较慢,需要配置代理加速:

go env -w GOPROXY=https://goproxy.cn,direct

步骤2:生成代码

go generate ./...

这一步会生成绑定代码、协议文件等必要的Go代码。

步骤3:编译构建

go build .

编译完成后,当前目录下会生成一个可执行的 ollama 文件。

⚠️ 注意:编译过程可能需要10-20分钟,取决于手机性能。期间手机可能会发热,属于正常现象。

五、运行Ollama

构建完成后,启动Ollama服务:

./ollama serve

启动后会显示Ollama服务地址,默认监听 http://localhost:11434

如果需要局域网访问,设置监听地址:

OLLAMA_HOST=0.0.0.0 ./ollama serve

六、开始使用

服务启动后,就可以下载和运行AI模型了。

查看已下载的模型:

./ollama list

浏览可用模型库:

在浏览器中访问:https://ollama.com/library

下载并运行模型:

# 下载模型
./ollama pull qwen3:0.6b

# 运行模型(进入对话模式)
./ollama run qwen3:0.6b

七、模型推荐

根据手机性能选择合适的模型:

模型参数量所需内存适用设备
qwen3:0.6b6亿1GB+入门手机
qwen2.5:1.5b15亿2GB+中端手机
gemma3:4b40亿4GB+高端手机
qwen2.5:7b70亿8GB+旗舰手机

八、温馨提示

  • 🔥 首次下载模型需要较长时间,请耐心等待
  • 📱 推荐选择参数量2B以下的模型,手机运行更流畅
  • 🔄 如果之前有Ollama服务在后台运行,需要先停止:pkill ollama
  • 🔋 编译和运行大模型会消耗较多电量,建议连接充电器
  • 💾 确保手机有足够的存储空间(模型文件较大)

九、常见问题

Q1:go generate失败

检查Go版本是否过旧,建议1.21+:

go version

Q2:编译内存不足

增加swap空间:

pkg install swapspace -y

Q3:运行模型报错

检查内存是否充足,尝试使用更小的模型。

十、总结

通过本教程,你学会了从源码构建Ollama的完整流程:

  • 安装Go、cmake等编译依赖
  • 克隆Ollama源代码
  • 配置Go代理加速(国内用户)
  • 编译生成可执行文件
  • 启动服务并下载模型

从源码构建的好处是可以获取最新版本,也可以自定义修改代码。现在就在手机上体验本地AI大模型吧!