这两天的AI圈,有两个消息值得每个用AI办公的人认真看看。
第一个:Liquid AI发布了一个26亿参数的端侧模型LFM2.5-2.6B,在多个基准测试中干翻了参数2-4倍于它的对手。AIME25数学测试51.87分,逼近97亿参数的Qwen3.5-9B。
第二个:NVIDIA开源了NOOA Agent框架,一个Python类就是一个Agent,pip install nooa就能用,SWE-bench得分82.2%。
这两件事指向同一个趋势:AI正在从"云端"搬到"手边"。
对普通用户来说,这意味着什么?我梳理了3个实操建议。
一、开始关注本地运行的AI工具
以前用AI,基本都要联网。ChatGPT、Claude、千问,全在云端处理你的数据。现在端侧模型的能力已经到了"可用"的门槛。
具体怎么做?
苹果用户:macOS 26.6以上版本已经可以接入阿里千问大模型,Siri和写作工具都能直接调用。这是目前最方便的本地+大模型结合方案。
安卓用户:关注Liquid AI的LFM2.5系列,26亿参数可以在中端手机上流畅运行,不联网也能完成指令遵循、工具调用等任务。
开发者:NVIDIA NOOA框架已经开源,Apache 2.0协议,适合在本地搭建自己的AI Agent。注意一点:一定要在容器或虚拟机里跑,官方文档明确说了AST检查不等于安全隔离。
二、选AI工具的新判断标准:看"参数量/能力比"
以前选模型就看参数大小——参数越多越聪明。这个逻辑正在失效。
Liquid AI用26亿参数做到了97亿参数的效果,效率是对手的3.7倍。以后选AI工具,要关注的是"完成一个任务需要多少参数",而不是"参数有多少"。
举个实际例子:如果你只是需要AI帮你整理文档、写个邮件、做个数据分析,26亿参数的端侧模型完全够用,而且更快、更省流量、更安全。只有遇到复杂推理、长文生成这类任务,才需要调用云端大模型。
三、数据安全意识要升级
端侧AI的好处是数据不上云。但坏处是——很多人因此放松了警惕,觉得"本地的就安全了"。
恰恰相反。本地运行的AI模型,安全防护全靠你自己。NVIDIA NOOA的README里写得清清楚楚:AST检查不是真正的安全隔离,必须在容器或虚拟机中运行。
实操建议: - 本地AI工具不要给它访问敏感文件夹的权限 - 如果做开发,Agent执行环境必须和主机隔离 - 定期检查本地模型的权限设置
总结一下:AI正在从"你去找它"变成"它来找你"。从云端到端侧,这个转变才刚刚开始,但它会重新定义我们使用AI的方式。
提前做好准备的人,会比别人更快享受到这波红利。
夜雨聆风