乐于分享
好东西不私藏

Apfel:你的Mac自带AI助手

Apfel:你的Mac自带AI助手

你的Mac里,可能已经藏着一个免费的AI模型。

而且它不是刚刚下载的。

不是某个网站提供的试用额度。

也不是需要注册账号、绑定信用卡才能体验的云端服务。

它从你打开Apple Intelligence的那一刻开始,就已经存在于你的电脑里。

但过去有一个问题:

你没有入口。

除非自己写一个Swift应用,否则普通用户几乎无法直接调用它。

直到一个叫:

Apfel

的小型开源工具出现。

它打开了一扇门。

现在,你可以直接从终端调用Mac里的AI模型。

也可以从代码调用。

甚至可以把它伪装成一个OpenAI兼容接口,让现有AI应用直接连接。

最关键的是:

不用下载几十GB模型。

不用等待漫长部署。

因为模型本身,早就在你的Mac里。

Apfel不是一个新的AI模型。

它只是打开了苹果已经安装好的那把锁。

发现一个低成本 AI 平台:GPT-5.6 倍率0.08(限时), Claude Opus5,Fable 5 都能用,倍率 0.25,首字请求速度5s内,还支持 image-2 生图。关注公众号后,后台回复 aihub 即可获取体验额度。

我这里有官方sd2.0渠道,量大(50w以上)的可以9折,有需要的可以私我!


Apfel是什么?

安装非常简单:

brew install apfel

就结束了。

没有几个GB的安装包。

没有等待模型下载。

没有进度条慢慢跑。

原因很简单:

Apple Intelligence使用的模型,本来就已经随着系统安装到了设备中。

Apfel只是提供了一种访问方式。


它需要:

  • macOS 26 Tahoe或更高版本
  • Apple Silicon芯片
  • 已开启Apple Intelligence

底层运行的是一个大约30亿参数级别的小模型。

经过量化压缩后,它可以运行在苹果的Neural Engine上。


Apfel提供三种使用方式。

第一种:命令行调用

你可以直接:

apfel

输入内容,让本地模型回答。

适合:

快速查询;

简单文本处理;

终端工作流。


第二种:交互聊天

例如:

apfel --chat

体验类似一个本地版聊天机器人。


第三种:OpenAI兼容服务器

这是我认为最有价值的部分。

Apfel可以启动一个本地服务:

localhost:11434/v1

然后:

任何支持OpenAI SDK的程序。

都可以直接连接它。


这意味着:

你的Python代码。

你的AI工具。

你的自动化脚本。

甚至一些第三方客户端。

不需要重新适配。

只需要把API地址改成本地地址。


最有意思的是:断网也能用

很多人第一次接触本地AI,会问:

“断网还能回答吗?”

答案是:

可以。

因为整个过程不经过云端。

关闭Wi-Fi。

模型依然可以运行。

它不会:

请求服务器。

上传数据。

消耗API额度。


这带来了一个非常实际的价值:

隐私。

比如:

本地代码;

私人笔记;

公司内部资料;

敏感文本。

如果你不希望发送到第三方服务器。

本地模型就是一种选择。


Apfel最大的亮点:像OpenAI一样调用本地AI

假设你原本有这样的代码:

from openai import OpenAIclient = OpenAI(    api_key="your-key")response = client.chat.completions.create(    model="xxx",    messages=[        {"role""user","content":"你好"        }    ])

你只需要修改地址:

client = OpenAI(    base_url="http://localhost:11434/v1",    api_key="fake-key")

然后:

代码继续工作。


这件事为什么重要?

因为很多开发者已经围绕OpenAI接口建立了工具生态。

如果每一个本地模型都需要重新学习一套API。

使用成本会非常高。

而兼容OpenAI接口,相当于直接接入现有生态。


Apfel和Ollama有什么区别?

很多人看到这里可能会想到:

“这不就是Ollama吗?”

其实不是。

两者方向完全不同。


Ollama是什么?

Ollama负责运行开放权重模型。

例如:

Llama;

Qwen;

其他开源模型。

它需要:

下载模型。

保存权重。

管理版本。

切换模型。


优点:

自由度高。

你可以:

换模型;

调参数;

微调;

部署不同大小版本。


缺点:

需要空间。

需要配置。

需要管理模型文件。


Apfel是什么?

Apfel更像一个翻译层。

它不会下载模型。

不会管理模型。

它只是:

调用Apple FoundationModels框架。

然后把结果转换成OpenAI API格式。


所以:

Ollama像一个模型管理器。

Apfel像一个本地AI入口。


最大的区别:

Ollama:

你选择模型。

Apfel:

苹果已经帮你选择好了。


这也是它最大的优势。

也是最大的限制。


Apfel最大的缺点:模型真的不算强

先说最现实的问题。

这个模型大约30亿参数。

所以:

不要期待它达到Claude。

不要期待它接近GPT旗舰模型。

这不是同一个级别。


它比较适合:

简单命令查询;

短文本总结;

基础分类;

快速辅助。

例如:

“帮我解释这个Shell命令。”

“给这个commit写一句说明。”

“总结一下这段文字。”

这些任务完全可以。


但如果你让它:

解决复杂数学问题;

分析大型代码项目;

处理多步骤推理。

效果可能马上下降。


它不是一个超级AI。

它更像:

电脑里随时待命的小助手。


最大限制:上下文窗口

目前它最大的硬限制之一:

Context Window。

大约只有4096 Token。

什么意思?

大概就是:

一页左右文字。

整个输入和输出加起来,共享这个空间。


所以你不能:

丢进去几十万行日志。

让它分析整个项目。

让它作为大型Coding Agent。


对于现在流行的AI编程工具来说:

一个代码文件可能就已经消耗大量上下文。

更不用说:

整个仓库。


所以:

Claude Code;

Codex;

大型AI Agent。

依然不是它的目标。


苹果的安全限制也是一个问题

因为这是Apple Intelligence的一部分。

所以:

它自带苹果的安全策略。

你不能完全关闭。


有一个更宽松模式。

但本质上:

控制权依然在苹果。


这和自己运行开源模型不同。

如果你使用:

Llama;

Qwen;

其他开放权重模型。

你拥有更多控制权。


Apfel则是:

方便。

简单。

但受苹果规则约束。


谁适合使用Apfel?

如果你的需求是:

复杂推理。

长文档分析。

大型代码开发。

生产级AI应用。

那么:

继续使用Claude、OpenAI。

或者自己部署更大的开源模型。


Apfel真正适合的是:

那些每天都有很多“小问题”。

但又不值得消耗云端额度的场景。

比如:

查看Shell命令。

生成Git Commit信息。

快速分类文件。

总结当前打开的内容。

简单文本处理。


这些事情单独看很小。

但一天可能发生几十次。

如果全部调用云端API:

成本会慢慢积累。


而Apfel:

就在电脑里。

免费。

离线。

随时可用。


本地AI时代正在改变

以前所谓“免费本地AI”是什么?

下载一个模型。

然后:

配置环境。

安装依赖。

下载几十GB权重。

解决各种报错。

最后终于运行。


现在情况开始变化。

未来很多电脑可能都会:

出厂自带AI模型。

用户不需要知道模型在哪里。

只需要调用。


苹果就是一个很明显的例子。

模型已经存在。

只是缺少入口。

Apfel做的事情,就是把这个入口打开。


最终评价

Apfel不会取代Claude。

不会取代GPT。

也不是给专业开发者准备的万能AI。

它最大的价值其实非常简单:

让你发现:

你的电脑里,可能已经有一个免费的AI。

它不需要登录。

不需要联网。

不需要付费。

它就在你的机器里面。


真正重要的变化不是:

“Apfel有多强。”

而是:

本地AI开始从‘自己安装模型’,变成‘电脑默认拥有智能能力’。

未来的个人电脑,可能不只是运行软件。

它本身就是一个AI设备。

而Apfel,只是让我们第一次看见:

这个趋势已经开始发生。