https://www.gitcc.com/messigod/deep-edge-iot
同时支持华为昇腾、NVIDIA Jetson、瑞芯微 RK3588、算能 BM1688 以及海光/Intel/AMD x86等异构边缘算力
平台覆盖摄像头接入、算法任务编排、推理、告警、录像、IoT 采集与规则引擎的全链路
解决最大痛点:
边缘落地最大的痛点往往不是「没有模型」,而是换一块板子就要换一套系统:国产化要昇腾和海光 x86,产线常见 Jetson,低成本方案用 RK3588,重推理盒子常见 BM1688——每家 SDK、容器和推理入口都不一样,同一套安防或质检业务被迫维护多条技术线,人力和时间都耗在重复对接上。
IoT Edge platfrom用固定的 WEB / DEVICE / VIDEO / AI / TASK 五模块和 固定端口 + 环境变量 + host 网络,把「日常用的平台」和「跟芯片绑定的推理部分」分开:界面、告警、录像、物模型、规则引擎这一套不变;换昇腾、Jetson、RK、BM1688 或 x86,主要是换推理镜像、编排参数和 TASK(C++)的构建目标,对齐 CANN、CUDA/TensorRT、RK NPU、TPU 与 x86 CPU/GPU 等常见路线,从而用一套开源平台串起信创、工控、ARM 盒子和 x86 服务器

旨在统一异构算力、打通AI应用落地“最后一公里”的边缘计算平台。它通过标准化的架构设计,让同一套AI业务逻辑能够无缝运行在从国产化芯片到主流工控硬件的各种设备上,极大地降低了AI在边缘侧的部署和运维成本。
🤔 核心痛点:换一块板子,就要换一套系统
在AI从云端走向边缘的浪潮中,开发者面临着一个巨大的挑战:硬件碎片化。
边缘计算场景复杂多样,没有一种芯片能通吃所有市场:
- 国产化需求:需要适配华为昇腾(Ascend)、海光(Hygon)x86等信创硬件。
- 工业产线:NVIDIA Jetson 系列是常见的选择。
- 低成本方案:瑞芯微 RK3588 等ARM芯片因其高性价比被广泛采用。
- 重推理场景:算能 BM1688 等专用AI加速卡是理想选择。
- 通用服务器:Intel/AMD x86 架构依然占据重要地位。
痛点在于:每一家硬件厂商都有一套独立的SDK、容器环境和推理接口。这意味着,开发一个安防或质检应用,团队不得不为每一种硬件维护一套独立的技术栈。大量的人力和时间被消耗在重复的移植、适配和调试工作上,严重拖慢了AI项目的落地速度。
🛠️ 解决方案:用一套平台,统一所有算力
deep-edge-iot 平台的核心思想是 “解耦”——将“日常用的平台”与“跟芯片绑定的推理部分”彻底分离。
它通过一个固定的、标准化的五模块架构,实现了“一次开发,处处运行”:
- WEB (界面):提供统一的用户交互界面,用于设备管理、任务配置和告警查看。
- DEVICE (设备):负责设备接入和物模型管理,抽象了底层硬件差异。
- VIDEO (视频):处理摄像头接入、视频流拉取、录像存储等通用视频能力。
- AI (人工智能):作为AI能力的抽象层,向上提供统一的调用接口。
- TASK (任务):负责任务编排和规则引擎,将视频、AI、IoT数据串联成完整的业务逻辑。
如何实现统一?
平台通过 固定端口 + 环境变量 + host网络 的方式,为上层应用提供了一个稳定的运行环境。当需要更换硬件时,开发者只需做两件事:
- 替换推理镜像:将针对特定芯片(如CUDA/TensorRT for Jetson, CANN for Ascend, RKNPU for RK3588)优化好的推理引擎打包成Docker镜像进行替换。
- 调整编排参数:修改容器编排文件(如docker-compose.yml)中的环境变量和构建目标。
通过这种方式,界面、告警、录像、规则引擎等核心业务逻辑完全保持不变,从而用一套开源平台,成功串联起信创、工控、ARM盒子和x86服务器等所有主流硬件路线。
🚀 场景与价值:加速AI在边缘的普惠落地
这套平台为AI在边缘侧的规模化应用提供了坚实的基础设施,其价值体现在:
- 大幅降低开发与运维成本:开发者可以专注于AI算法和业务逻辑本身,无需再为不同硬件的适配而烦恼,显著提升了研发效率和产品交付速度。
- 实现真正的“国产化”与“自主可控”:平台原生支持华为昇腾、海光等国产芯片,为企业在信创背景下的AI应用迁移和部署提供了平滑的路径,保障了供应链安全。
- 提升项目灵活性与可扩展性:可以根据不同场景的成本、性能和功耗要求,灵活选择最合适的硬件,而无需担心软件兼容性问题。无论是高端的工业质检,还是低成本的智慧门店,都能用同一套系统覆盖。
- 覆盖全链路业务需求:平台不仅解决了AI推理的问题,还集成了摄像头接入、IoT数据采集、规则引擎、告警和录像等完整功能,是一个开箱即用的边缘AI解决方案,而非一个简单的推理框架。
总结:deep-edge-iot 是一个极具战略眼光的开源项目。它精准地击中了边缘AI落地过程中“硬件碎片化”这一核心痛点,通过巧妙的架构设计,为开发者提供了一把打开异构算力世界的“万能钥匙”。对于希望在智能制造、智慧城市、智慧园区等领域快速部署AI应用的企业和开发者而言,这是一个不可多得的宝贵资产
https://www.gitcc.com/messigod/deep-edge-iot
同时支持华为昇腾、NVIDIA Jetson、瑞芯微 RK3588、算能 BM1688 以及海光/Intel/AMD x86等异构边缘算力
平台覆盖摄像头接入、算法任务编排、推理、告警、录像、IoT 采集与规则引擎的全链路
夜雨聆风