iOS 27 最新爆料:用 Gemini 训练本地 AI,部分 Siri 请求转向谷歌云

5 月 29 日最新消息,科技媒体 The Information 在 5 月 28 日发文,比较详细地曝光了苹果和谷歌目前在 AI 方面的一些合作情况;
从现在披露出来的信息来看,苹果这边依旧还是把“隐私优先”放在了很核心的位置上,也一直在往本地端侧 AI 方向去做,甚至还用了“知识蒸馏”这一套方案,也就是通过调用谷歌 Gemini 这种大模型,慢慢“教”出一个更轻量的小模型,好让它后面能直接跑到 Apple 设备上;

感觉从个人角度看,简单来说,就是知识蒸馏就是把大模型里的能力和经验,迁移到体积更小的模型里面,这样一来,小模型虽然没那么大,但也能拥有接近大模型的效果,同时还能把推理成本降下来不少;
消息里提到,苹果 AI 团队现在已经会大量调用 Gemini 模型,再把这些能力压缩、训练到更轻量化的版本里面,而这些小模型后面也会被放到 iPhone、iPad 之类的设备本地去运行;

对于普通用户来说,本地运行 AI 一方面响应速度会更快,另一方面也能少把数据上传到云端,这一点其实也挺符合苹果这些年一直强调的隐私路线;
另外,苹果最近还一直在找一些做“小模型压缩”方向的 AI 初创公司合作,甚至还考虑过收购一家叫 Liquid AI 的公司,这家公司位于美国马萨诸塞州剑桥,主要方向就是研究怎么把 AI 模型做得更小,并且能直接在设备本地运行;
至于云端这部分,因为完整版 Gemini 模型本身参数规模太夸张,已经到了数万亿级别,对算力要求也特别高,苹果目前自己的 Private Cloud Compute 基础设施,其实还不太能完全扛住所有 AI 请求;

所以消息人士表示,到了 iOS 27 版 Siri 这里,部分用户发出的 AI 请求,后面有可能会被转到 Google Cloud 上处理,同时再调用经过授权的 Gemini 模型;
不过苹果这边显然还是想尽量守住自己的隐私承诺,所以最近几周据说也已经批准采用 NVIDIA 的“机密计算”技术,这套技术会在 GPU 处理数据和模型的时候,把相关内容进行加密,虽然这样做之后,云端 AI 的响应速度可能会稍微慢一点,但敏感信息的安全性也确实能得到更高的保护;

如果后面这些方案真的正式落地,那苹果未来在云端运行部分 AI 功能时,大概率就会同时依赖 Google Cloud 和 NVIDIA AI 芯片了。😭又到了告别的时刻,本期的分享到这了,下期我们再见!!!🚀


夜雨聆风