ARTICLE · 1192621
国产AI工具能跨芯片了
国产AI工具能跨芯片了
最近在琢磨本地跑模型的事,手头这张卡还没捂热,就发现换块芯片代码基本得重来。底层算子不兼容,调起来很磨人。
听说DeepSeek开源了一套叫TileLang的东西,思路挺对我胃口。写算子像写Python,一套代码适配不同芯片,不用为每家硬件从头折腾。以前搞矩阵乘法优化要手动管缓存、拆线程,现在听说能省不少事。
我最关心的是能不能让我这种普通开发者少踩坑。模型迭代快,算子跟不上就卡在算力层,白花钱。如果真能把底层代码压到几十行,自动处理数据搬运和同步,那省下的时间挺实在。
当然也不敢期望太高。昇腾后端还在追赶,供货听说也有缺口。先观望一阵,等生态再熟点,说不定真能少被CUDA绑几年。
上海,2小时前,















































































