AI 基础软件层深度研究报告

一、产业链定位：卡在「模型」与「应用」之间的中间件层

上游 算力 / 数据 / 芯片   →  中游·模型层 通义 / DeepSeek / GPT   →  【中游·基础软件层 ⬅ 本报告】   →  中游·Agent 框架层 LangChain / Dify / Coze   →  下游 金融 / 具身 / AIGC 基础软件层 = 把「模型能力」工程化、产品化的三组核心件：   ① 向量数据库（存 & 检索 embedding）   ② RAG 框架 / 工具（编排检索 + 生成）   ③ MLOps / LLMOps 平台（模型全生命周期管理）   ④ 可观测与评测（生产化的「眼睛」，依附前三件）

为什么它独立成「大板块」？ 它与「Agent 框架层」平级，都是中游工具层，但解决不同问题：Agent 框架管「怎么编排任务」，基础软件层管「知识怎么存、检索怎么准、模型怎么稳稳跑在生产环境」。三者叠起来，才是企业能把大模型用起来的完整底座。

二、市场规模：多口径并存的「模糊地带」⚠️

⚠️ 重要口径提示（务必锁同一口径引用）： 基础软件层三个赛道的数据来自不同研究机构，定义范围差异极大——是否计入传统数据库向量扩展（pgvector / ES）、是否含托管服务、平台 vs 含服务，都会让 2026 年数字从 30 亿到 80 亿美元不等。以下按来源分别列出，切勿跨口径相加或混用。

贯穿基础软件层的五大趋势

① 混合检索成标配：关键词+向量+图谱，单一向量检索覆盖不全场景

② AgentRAG 融合：RAG 从「检索+生成」进化为「检索+推理+行动」

③ 文档解析定上限：OCR/表格/布局理解是 RAG 质量天花板

④ 轻量化 MLOps 兴起：低代码+预置模板+SaaS，部署周期平均缩短 62%

⑤ 国产化适配深化：79.4% 方案已支持麒麟/统信/海光/鲲鹏，信创刚需驱动