夜雨聆风学习资料网

ARTICLE · 1028977

从硬件突围到软件筑基,国产算力迈入新时代

从硬件突围到软件筑基,国产算力迈入新时代

从硬件突围到软件筑基,国产算力迈入新时代

国产算力从硬件突围走到软件筑基了。这是GPUStack在最近一次发布会上传递的信号。GPUStack不是芯片公司,是算力调度软件公司。它的使命,是让国产算力从能用走向好用。
硬件突围什么意思?过去几年,国产GPU、国产AI芯片从无到有,从能跑简单模型到能跑大模型。这是硬件突围。但硬件突围之后,问题来了。不同厂商的芯片不兼容,不同型号的卡混不了,开发者要学好幾套工具。这就像修了好几条高速公路,但收费站各是各的,车上了高速也跑不快。
软件筑基什么意思?GPUStack做的是算力调度和管理的软件层。它把不同厂商的芯片统一管理起来,让开发者不用管底层是什么卡,只管我要多少算力。这就像修了一个统一的收费站,车不管从哪条高速来,都能顺畅通过。
从技术角度看,异构算力调度是难点。不同芯片的指令集不同,内存架构不同,通信协议不同。调度平台要抽象出统一的接口,让上层应用无感知。GPUStack用了容器化和虚拟化技术,把异构资源池化,再按需分配。
从生态角度看,国产算力最大的短板不是硬件性能,是软件生态。英伟达的CUDA生态有十几年的积累,几百万开发者。国产芯片的软件栈还在建设中。GPUStack的做法是兼容主流框架,PyTorch、TensorFlow、PaddlePaddle都能跑。开发者不用改代码,就能从英伟达迁移到国产芯片。
从商业角度看,算力调度软件的价值在于提升利用率。大部分企业的GPU利用率不到40%。GPUStack通过动态调度、内存优化、通信优化,把利用率提到70%以上。利用率提升意味着算力成本下降,这对国产算力的商业化至关重要。
从趋势看,国产算力正在从单点突破走向系统集成。以前是芯片公司各做各的,现在是芯片、软件、整机、应用协同。GPUStack作为中间层,连接芯片和应用,是生态的关键节点。
当GPUStack驱动国产算力迈入好用新时代时,国产算力的竞争正在从芯片参数变成生态体验。你觉得国产算力什么时候能真正好用?欢迎在评论区聊聊你的国产算力体验。

福建,1小时前,

相关学习资料

返回首页浏览学习资料