这周飞了一趟长途,起飞前习惯性地把手机切成飞行模式。然后突然想到一个问题:过去这两年我已经习惯了"有网就有 AI,没网就回到原始人"的状态。云端 AI 在飞机上是彻底废的——别说 GPT,连微信小程序的智能客服都打不开。
但这次不一样。我的手机上提前部署了 Qwen2.5-Omni-3B,一个只有 3B 参数的多模态大模型。三个小时的航程,我把它从头到尾测了一遍。结论是:离线 AI 的时代,真的来了。
飞行模式下的两个测试
Qwen2.5-Omni-3B 是阿里云通义千问团队推出的全能型多模态模型。所谓"全能",不是噱头——它同时支持视频、音频、图像、文本四种输入,而且全部可以在本地运行。3B 参数听起来不大,但模型架构本身是为端侧设计的,效率极高。
我在飞机上做了两件事,每一件都颠覆了我对"本地 AI 能干什么"的认知。
测试一:图像理解——分析流程图
我用本地第一张复杂的流程图发给他问"这张图是什么"。
Qwen2.5-Omni-3B 准确识别出了流程图内容。



关键能力:图像理解不止是"识别物体",而是对场景做语义分析。这种有文字、图形、数据混合的复杂画面,模型能同时处理并给出自然语言回答。
测试二:文本创作——写一篇2026福建高考满分作文
最后一个测试比较常规:我把2026福建高考题发给他。Qwen2.5-Omni-3B 的文字生成质量在 3B 级别里是相当能打的,输出结构清晰,逻辑通顺,几个关键数据点都没漏。


三个小时的航程,我基本没闲着——看航图、分析视频、转录音频、写报告,全程离线。降落的时候我还想,云端 AI 的"网断了就废了"这个弱点,在端侧模型面前被放大了多少倍。
3B 参数凭什么做这么多事?
Qwen2.5-Omni-3B 能做到这些,核心在于它的架构设计。它的技术底座是 Qwen 2.5 模型系列,在此基础上叠加了三个专用处理模块:
视觉处理模块——负责提取和理解图像与视频帧的特征。不管是静态的航图还是动态的起飞视频,都走这个通道。
音频处理管道——把声波信号转换成模型能理解的嵌入向量。机舱广播的语音就是通过它变成文字和翻译的。
跨模态注意力机制——这是最关键的一环。它让文本、图像、音频三种完全不同的信息在同一套"语言"下互相对话。一张图片加一段语音,模型能综合理解并给出连贯回答。
Qwen2.5-Omni-3B 的真正力量不在于单一模态的处理能力,而在于整合。它可以回答关于带音频的视频的问题,描述文本与图像的关系,基于混合媒体内容生成连贯的叙述。
参数的效率也很值得说道。3B 级别能跑出这种效果,靠的是高效参数共享——把所有输入都作为序列统一处理,用投影层把不同模态的特征映射到共享的嵌入空间。说人话就是:没有为每种模态单独造一个"翻译官",而是训练了一个通用的"翻译官"。
性能:小模型的逆袭
阿里公布了 Qwen2.5-Omni-3B 在多个基准测试上的成绩。它不光在同等参数量级里一骑绝尘,有些指标甚至超过了参数量更大的模型。
在我的飞行模式实测中,图像理解延迟约 1-2 秒,视频处理稍慢一些(取决于视频长度),文本生成速度在骁龙 8 Gen 2 芯片上能达到 18-22 tokens/s。体验和聊 ChatGPT 免费版的感觉差不多,区别是这个不用网。
怎么在你的手机上跑起来
如果你也想在离线场景下体验这个模型,部署流程其实不复杂。以下是在本地环境(不需要云端 GPU)运行 Qwen2.5-Omni-3B 的步骤。
参考历史文章手机跑大模型?Qwen2.5-Omni-3B 端侧部署实战,9大AI场景全解析
离线 AI 到底意味着什么
这次飞行模式下的实测让我对这个问题的理解更具体了。过去我们习惯把"AI"和"云计算"画等号——打开浏览器、登录、输入、等待返回。但在以下场景中,这种模式是根本跑不通的:
飞机、高铁、地铁——有网的地方就不叫交通工具了。但恰恰在这些封闭空间里,你有大把整块时间,最需要 AI 辅助。
涉密场所——军工、政府、金融交易室,设备根本不能联网。但这里对文档分析、数据推理的需求又是最强烈的。
野外作业——地质勘探、户外摄影、战地报道,信号可以断,工作不能停。
隐私敏感场景——健康数据、法律文件、商业合同,本地处理意味着数据不出设备。
Qwen2.5-Omni-3B 的出现解决了这些场景的最后一个瓶颈:以前端侧模型要么只能做文本,要么精度不够用。现在在一个 3B 的模型里同时塞进了视频、音频、图像、文本四种能力,而且精度在 80% 以上的日常场景中完全够用。
一个 3B 参数的模型,装在手机里,飞在天上,没有网络。它看得了视频,听得懂语音,读得懂图片,写得动文章。这不是未来,这是已经可以装进你手机里的东西。
下次坐飞机,别再看座位上的杂志了。提前装个模型,三个小时够你写两篇报告外加分析二十张照片。
本文基于 Qwen2.5-Omni-3B 实际离线部署体验撰写,模型已在 Hugging Face 开源,可免费下载使用,apk也已开源GitHub搜索apkclaw-version,可直接下载apk安装
批量 AI 视频自由!Agnes Video 解密短视频批量流水线,含提示词工程 & 自动化代码
手机跑大模型?Qwen2.5-Omni-3B 端侧部署实战,9大AI场景全解析
夜雨聆风