ARTICLE · 1006268
边缘AI开发板怎么选?90%的人选错了
🔧 边缘AI开发板怎么选?90%的人选错了
边缘计算 · 开发板选型 · 端侧AI
上个月一个做工业质检的朋友找我吐槽:项目预算砍半,老板让他把8路摄像头的AI检测成本压下来。他第一反应是上Jetson,一块板子两千多,八路口子直接干超支。
最后换了什么?两块瑞芯微RK3588,总价不到一块Jetson Orin NX的一半,八路视频稳稳跑,还支持国产替代。
选开发板这件事,90%的人第一反应就错了——他们在比"谁的TOPS数字大",而不是问"我的项目到底需要什么"。
一、同一个模型,板子之间差10倍
先看一组实测数据,跑的都是最常见的YOLOv5s目标检测模型:
地平线RDK X5,标称10 TOPS算力,跑到55帧/秒;树莓派5,四核A76处理器听起来不弱,只有6-7帧/秒。差了快9倍。
不是树莓派不行,是它压根没有AI加速单元——纯靠CPU硬算,就像让会计用算盘跑图形渲染。
教训很简单:做AI项目,没有NPU/BPU专用加速器的板子,直接排除。CPU强不强,在AI推理面前几乎无关。
📌 正在做硬件选型的朋友,这篇建议先收藏再转发给采购和技术同事,一块板子选错,后面是几万台量产的代价。
二、五个梯队,对号入座
2026年市面上的边缘AI板子,按算力和价位分五个梯队,先定位自己在哪一档:
注意第二档——RK3588这块2022年发布的国产芯片,四年了依然是边缘AI市场的"守门员":8核CPU、6 TOPS NPU、8K视频、PCIe 3.0,香橙派5 Pro一千出头就能拿下。大部分工业视觉、智能零售、边缘网关项目,这一档完全够用,再往上买就是给英伟达交"生态税"。
三、参数表上的三个坑
坑一:TOPS是"实验室峰值",不是你的实测速度。厂商标称的TOPS是INT8精度下的理论峰值,实际能发挥多少,取决于软件优化和内存带宽。买之前别看参数表,去搜你那个具体模型的实测帧率。
坑二:内存带宽才是隐形天花板。AI推理时数据要在芯片和内存之间疯狂搬运,带宽不够,算力再强也"堵车"。树莓派5内存带宽8.4GB/s,Jetson AGX Orin是205GB/s——24倍差距。跑小模型无所谓,跑大模型这就是生死线。
坑三:生态成本比板子贵。Jetson贵的不只是硬件,是CUDA+TensorRT+Isaac这套生态——模型拿来就能跑,资料多到看不完。国产板用RKNN工具链,要自己做模型转换和量化,学习成本实打实。原型验证阶段,时间比板子贵;量产阶段,每台省一千就是纯利润。阶段不同,答案相反。
📌 一句话记住:做Demo买Jetson省时间,做产品买国产板省成本。正在纠结选型的,把这篇转给你们硬件负责人。
四、四个问题,30秒定方案
不用啃参数表,回答四个问题就够了:
① 跑什么模型?单目检测+分类,入门档够用;要同时跑检测+分割+姿态估计多个模型,直接Jetson起步。
② 几路摄像头?1-2路大多数板子都能扛;4路以上必须选有多路硬解码的平台(Jetson DeepStream或RK3588的MPP,RK3588最多接7路)。
③ 功耗和散热?5瓦以下选ARM小板+TPU;10-20瓦是RK3588和Orin Nano的甜区;密封无风扇外壳,持续功耗别超12瓦。
④ 量产还是原型?做Demo、跑比赛、验证算法,Jetson生态让你一周出活;做产品、要控BOM成本、有国产替代要求,RK3588/RK3576是目前量产验证最充分的方案。
五、2026年的新变量:板子开始跑大模型了
今年选型还要多问一句:要不要在设备本地跑大模型?
实测数据:RK3588跑DeepSeek蒸馏版1.5B模型,量化后22 token/秒,对话流畅;跑7B模型量化版约10 token/秒,能用但偏慢。瑞芯微在WAIC 2026上还展了RK3588/RK3576加RK1828协处理器的双芯方案,Gemma4、Qwen3.5这类2B-7B模型本地流畅运行,首字延迟低至170毫秒。
这意味着什么?以后的摄像头能自己"看懂"画面并用自然语言描述,网关能直接语音交互,数据不出设备——隐私敏感场景(医疗、车载、家庭)全部要重做一遍。选型时留没留这个余量,决定你的产品三年后过不过时。
写在最后
边缘AI选型的本质,从来不是"买最强的板子",而是"在你项目的约束条件里,买够用的板子"。算力过剩是纯浪费,算力不足要推倒重来——决策的质量,全在对需求的拆解里。
至于树莓派?它依然是最好的Linux学习机和原型玩具,但在工业场景里,0-50℃的工作温域、随时调整的供货策略,决定了它只能待在实验室。玩具和工具,从一开始就不该放在一张表里比。
我是瑞泽,专注拆解AI×物联网的落地真相。
不吹牛逼,只说人话。关注我,下期聊聊:做了五年物联网开发,为什么我劝你尽早转向AI?
回复「产业链」,领取《2026 AIoT与人形机器人产业链全景图》,芯片、供应链、降价数据一张图讲透。
觉得有用?点个在看,转给身边正在做硬件选型的朋友——省下的都是真金白银。
💬 你现在项目用的哪块板子?踩过什么选型的坑?评论区聊聊。