乐于分享
好东西不私藏

本地AI电脑为啥越做越贵?英伟达RTXSpark靠软件能翻盘?

本地AI电脑为啥越做越贵?英伟达RTXSpark靠软件能翻盘?

无需怀疑,AI芯片已经成为当下个人计算发展的基础,甚至是提升生产力的有利保证,在AI落地的过程中,虽然时间跨度不小,可我们也能看出一个有趣的规律,那就是最初的阶段,主要是确定本地AI是否成为核心能力,芯片的重点是跑通原始模型,我们现在使用的很多云端服务,其实都是当时所打下的基础,例如CUDA生态就是如此。

而在第二个阶段中,AI芯片的发展开始走向个人电脑,准确地说,是面向消费级的芯片架构,因为有了统一内存的出现,使得本地大模型开始出现可能,无外接电源的AI笔记本如雨后春笋般在全球出现,第一个阶段造就了云端算力,第二个阶段造就了英伟达的RTX Spark,而现在,则开始进入第三个阶段,我们已经身处变革之中。

实际上,每一次AI芯片变革的出现,都是为了解决芯片产业继续向前繁荣发展的问题,目前AI电脑的发展,同样也是如此,简单来说,就是传统PC的芯片性能与运行大模型所需付出的成本相比,已经出现严重的不成正比例的情况。

以传统PC的内存架构为例,这并不一个独立的设计缺陷,只是分体存储的沿用方案,可尽管如此,采用分体内存的PC,在运行AI大模型需要频繁交换数据时,性能损失也才约几倍,如果剔除这些因素,那么分体内存架构对AI大模型运行的阻碍,很可能连几倍都不到,可成本却是采用统一内存架构RTX Spark方案的局面。

还有英伟达近期发布的RTX Spark芯片,这款芯片的GPU同样采用统一内存架构,集成6144个GPU核心,售价预计不低,而今天苹果的Mac电脑,采用类似统一内存方案,但GPU核心数不足,性能上的差异却并不大,反而在AI计算的生态支持上反而有领先的优势。

通过这两个案例就能看出,仅仅统一内存架构,就已经出现了这么大的成本差异,然而性能上反而没有明显的提升,而且业界方面还表示,在传统分体架构之后,考虑到功耗,将不能再提升CPU与GPU的通信带宽,也就是说,以后内存架构的发展已经遇到瓶颈,用行业分析师的话说,就是本地AI或许已经走到尽头。

所以总结起来就是,AI电脑能够发展,可速度要慢了很多,可成本却成倍的提升,这在商业上是行不通的,那么怎么办呢?上面我们提到了,AI芯片的发展,经历了云端算力和个人电脑两个主要历史阶段,现在就是进入第三个历史阶段,软件生态,准确的说叫作CUDA生态,是AI真正落地的核心程序。

上面我们提到的英伟达新发布的RTX Spark芯片,其实就是采用统一内存加CUDA生态,通过软件优化后的结果,我们看到,成本大幅下降,但性能却依然不俗,而这就要提到我们今天的主角,RTX Spark,目前是开启本地AI PC新阶段的标志产品。

苹果是存有统一内存但缺乏生态的案例,之前十年有自己的生态,现在又陷入卡壳,苹果的AI芯片主要就是由自家M系列芯片来完成。之前高通方面表示已经成功推出了首款AI PC芯片,毫无疑问,这为我们发展AI PC产业提供了基础,现在英伟达则又传出了好消息。

其表示,不仅是AI开发者,全球绝大多数普通内容创作者都可能成为RTX Spark的用户,据悉RTX Spark设备已经在设计阶段,总功耗控制在合理范围,总生产面积预计覆盖全球代工厂,所以我们看到,软件生态已经成为AI PC发展的新引擎,目前包括英特尔、AMD在内都在大力投资AI软件工具链。

对于普通创作者来说,CUDA生态恐没想到会这么快进入个人电脑,毫无疑问,这对云端AI服务来说造成了压力,因为本地AI主要就是为了减少对云端付费订阅的使用,实际上这样的情况已经出现了一些端倪,例如英伟达的RTX Spark,从已经公布的数据,14毫米厚笔记本可运行,但目前的订单热度不会超过预期。

而且近日美企Adobe还表示,已经测试了新的插件,实现了在视频剪辑软件上,无需依赖云端API;台积电方面近期也成立了一个AI联盟,同样是在本地AI芯片封装方面的努力。

换个角度看,真正决定成败的可能不技术,是价格,如果RTX Spark设备价格接近高端游戏本甚至更高,大部分用户仍然会继续使用云端AI服务。只有当价格降到普通高端笔记本区间,例如1万到2万元人民币,本地AI电脑才可能真正进入大众市场,否则它更像是一种高端生产力工具,改变的是少数人的副业,而不整个产业。