乐于分享
好东西不私藏

你以为强大的AI必须联网付费,这款App直接把它装进你手机里

你以为强大的AI必须联网付费,这款App直接把它装进你手机里

用AI这件事,很多人有两个绕不开的烦恼。

一个是钱。ChatGPT Plus一个月20美元,Pro版直接200美元,换算成人民币,一年下来小几千块就没了。

用得多的人还好,偶尔用一下的人,每个月看着账单都觉得不值。

另一个是隐私。你跟AI说的那些话,你以为只有你知道吗?

去年底有一批AI应用出了事,一个叫Chattee Chat的AI伴侣应用,服务器暴露,4300万条私密对话直接泄露出去了。

国安部也专门出来说过这件事——用户投喂给AI工具的数据会被存储,开发者是可以看到这些数据的。

我看到这个数字的时候愣了一下。4300万条,不是4300条,是4300万条。

这两件事加在一起,就是很多人用AI的时候心里那根刺——花了钱,还不安心

有没有办法解决这两个问题?

一家叫做Multiverse Computing的公司,今年3月3号发布了一款叫做

的App,做的事情就是这个。

它的核心技术叫做CompactifAI,能把AI模型压缩到原来的5%大小,也就是压缩率达到95%,同时精度误差只有2到3个百分点。

我去查了一下这个数字,反复看了好几遍。

通常我们用的那些强大AI,比如GPT系列、Claude这些,都是跑在大型服务器上的,需要大量的计算资源,别说手机了,家用电脑都带不动。

但CompactifAI做的事情,是把这些模型压缩到手机能跑的大小,同时把能力的损失控制在2到3个百分点以内。

这意味着什么呢?

你把模型下载到手机里,之后就跟网络没关系了。没有WiFi,没有流量,在地铁里,在飞机上,在山里,AI照样能用。

数据不上传服务器,不经过任何云端,你说的话只在你的手机里面流转,开发者看不到,黑客也拿不走。

费用这件事也变了。模型下载一次,之后的使用不需要再付钱,没有月费,没有按次计费,没有用量限制。

谷歌其实也在做类似的事情,他们开源了一个叫Google AI Edge Gallery的项目,2GB运行内存的安卓手机就能完全离线跑多模态AI模型,处理图片、生成文字、多轮对话都可以。这件事在技术圈里传得挺广的,GitHub上面已经拿到7500多颗星了。

两家公司同时在做这个方向,说明这不是一个偶然的产品,是一个趋势。

当然,有人会问,压缩了95%,能力还剩多少?

这个问题问得很实际。2到3个百分点的精度误差,在日常使用场景里面,写东西、问问题、整理信息,基本上感觉不出来差别。要做非常精密的专业任务,可能会有一些差距,但对普通人来说,够用了。

CompactifAI这款App还有一个设计,就是可以在离线模式和云端模式之间切换。需要更强能力的时候,联网切到云端;不想联网或者没有网络的时候,切到本地。两种模式可以无缝切换,不是非此即彼的选择。

AI这件事,从一开始就是联网的、付费的、数据上传的。这个逻辑大家用了好几年,已经觉得理所当然了。

CompactifAI做的事情,是把这个逻辑打了一个问号。

以后用强大的AI,真的可能不再需要联网,不再需要付费,数据也不再需要离开你的手机。

这件事会走到哪一步,你觉得呢?

本站文章均为手工撰写未经允许谢绝转载:夜雨聆风 » 你以为强大的AI必须联网付费,这款App直接把它装进你手机里

评论 抢沙发

6 + 3 =
  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
×
订阅图标按钮