引言:AI 作为企业基础设施的嵌入与软件发展范式转变
正如黄仁勋在 2026 年提出的“五层蛋糕”比喻,AI正在成为和数据库一样的基础设施,但与数据库不同的时,AI技术正由专业 AI 厂商和开源社区以周为单位快速推动演进,企业在引入AI技术时,绝不要介入由AI供给方提供的技术领域而陷入技术债的泥潭(去年构建的技术架构很可能在今年要予以推翻),而应工作在基础设施与自身业务的边界处,将AI能力融入到企业业务运行环境中,尽管这个边界在迅速外推,但我们依然可以追踪到一个清晰的路线。
与此同时,AI 时代的软件发展正经历一场根本性的范式转变:软件开发正从知识与劳动双重密集型行业转变为廉价的自动化软件工厂,而大型管理软件的未来不再是链接组织与人,人在环路的应用模式将逐步消失,取而代之的是Agent与业务逻辑模块的自动化链接,由此也将推动软件架构与演进逻辑的方式变革。
(本文核心观点由笔者提出,详细内容与AI联合创作,阅读时请予以甄别。)
▎架构总览:以 Agent 为中心的外围深化模型
基于行业最佳实践,企业 AI 架构可构建为以 “Agent” 为中心的同心圆模型。
核心(AI 基础设施 —— 黄仁勋 “五层蛋糕” 模型层及以下层):
大模型、向量数据库、Agent 运行时。原则:采购或使用开源,坚决不自研。不要只做 A2A,要做 A2UI。
外围(企业价值层):
知识域:通过混合 RAG、分层 Memory、语义层,让 AI 理解企业知识。
行为域:通过 Skill 开发、MCP/A2A/A2UI 等协议封装,赋予 AI 操作与交互能力。
构建域:引入 BMAD 方法论与 Spec-Driven Development,重构软件开发流程。
治理层(应用与安全):
护栏机制、智能路由、人机协同、成本监控。

图: AI在企业内的嵌入架构
▎知识域:从“黑盒检索” 到 “透明理解”
让 AI 准确理解企业知识是整个智能外围的基石。企业知识形态多样 —— 从结构化数据库到非结构化的 PDF、PPT 文档 —— 而检索增强生成(RAG) 正是解决这一问题的核心机制。RAG 通过整合外部知识库,使大语言模型在生成答案时以检索到的权威文档为事实边界,有效弥补了模型在实时性、准确性和专业性上的固有缺陷。
然而,纯向量化 RAG 方案在实际应用中往往存在召回率不可控的问题。向量化技术是一个 “黑盒”,将语义相似性转化为数学距离计算,但知识密度的差异会导致某些概念无法被有效匹配。行业正从两个方向突破这一瓶颈:混合检索与分层 Memory 体系。
1.混合RAG:多管齐下提升召回率
混合检索成为提升 RAG 精度的公认策略。正如 Milvus 文档所强调的:混合搜索结合了不同搜索范式的优势,既能利用密集向量搜索和稀疏向量搜索的能力,也能利用多种密集向量搜索策略的组合,以确保对各种查询进行全面而精确的检索。
具体技术路径包括:
多模态文档解析:企业知识库中存在大量 PDF、PPT、图片等非结构化文档。光学字符识别(OCR) 是将其转化为机器可读文本的基础手段。以 GLM-OCR 为例,它是一个基于 GLM-V 编码器 - 解码器架构构建的多模态 OCR 模型,引入了多 Token 预测损失和稳定全任务强化学习来提高训练效率、识别准确率和泛化能力。该模型仅以 0.9B 参数实现了强大的识别性能,支撑高并发服务与边缘部署。新一代 OCR 技术还以 Agent 友好的 Skill 模式提供支持 —— 只需一行命令安装,无需 GPU 或复杂配置即可在 CLI 或 Python 环境中直接调用。
混合检索机制:在检索阶段,混合使用关键词检索和多种 Embedding 模型的向量检索。关键词检索以 BM25 算法为业界事实标准;Embedding 则将离散的词语或句子转化为连续实数向量。混合搜索策略既可以结合密集 + 稀疏搜索,也可以结合多个密集向量模型 —— 例如,一种密集向量模型捕捉语义的细微差别,另一种则侧重于上下文嵌入或特定领域的表征。企业常采用 “多模型并行 + 结果融合” 的策略来提升命中率。
结果重排序:混合检索可能返回大量候选文档,直接送入大模型会带来严重的上下文干扰和 Token 浪费。重排序作为 “质检员” 环节,对候选文档进行精细化打分和再排序,将最相关的信息置于前列。
此外在知识存储层面,行业正从纯向量化转向结构化知识格式。标准通用的标记语言因其语义结构清晰、可预测性强,逐渐成为新生成知识的首选存储格式,能够有效降低向量化的不可控风险。
2. 分层 Memory:从扁平检索到文件系统范式
分层 Memory 的核心理念是模拟人脑的记忆层级机制。以 OpenViking 为代表的方案,提供了一个全新的思考范式:用文件系统替代扁平的上下文存储。它不再将所有上下文扁平地丢入向量 Embedding 中希望语义搜索返回正确切片,而是按照 viking:// 这样的 URI 方案,将记忆、资源、技能组织成文件系统式的层级结构,为 Agent 提供一个稳定、可导航的上下文空间。
实践中,OpenViking 引入了 L0/L1/L2 三级上下文加载机制:
L0(摘要层):Agent 快速感知所需的最简上下文,Token 消耗通常控制在约 100 以内。
L1(概览层):提供约 2000 Token 的核心上下文信息。
L2(详情层):按需通过 URI 获取完整内容。
这种架构实现了递归上下文管理:原生支持 glob/grep 和混合向量检索,将目录定位与语义搜索相结合,进行精确的递归式上下文优化。它既大幅降低了 Token 消耗,又消除了长上下文截断的风险。
更进一步,OpenViking 内置了记忆自我迭代循环:每个会话结束后,可主动触发记忆提取机制。每个检索路径都是可追踪的,使 Agent 的上下文推理过程变得透明,并从执行和对话中提取经验,持续优化记忆。
3. 语义层:从 “词典” 到 “逻辑” 的跃迁
构建企业知识的语义层—— 也称本体架构 —— 是知识层的顶层设计。它强调由领域专家定义实体类、属性、关系与约束,追求语义一致性、数据治理与长期稳定。如果说 RAG 是一本快速查阅的 “词典”,那么本体架构就是一套严谨的 “语法” 和 “百科全书”,定义了企业内所有重要概念的精确内涵以及它们之间的逻辑关系。
在企业 AI 应用中,语义层确保 Agent 在面对 “合同状态”、“项目阶段” 等词汇时能够获得唯一而无歧义的理解,是支撑上层智能决策的基础设施。企业在实施时不必追求一步到位的全域本体构建,更务实的路径是从一个核心业务场景出发,构建轻量级本体,并通过对齐 RAG 的实际表现来持续迭代优化。
▎行为域:让AI 安全、经济地 “操作世界”
AI 不仅要 “知道”,还要能 “做到”。行动层的核心任务是为 Agent 提供操作企业内外部系统的能力。行业实践围绕协议生态、安全性与治理三个维度形成了若干关键原则。
1. 协议生态:从 MCP 到 A2A 再到 A2UI 的系统集成
企业现有 IT 遗产无法一夜之间用 AI 原生架构替换。如何让 AI Agent 安全、标准化地调用这些分布在核心业务系统中的 “企业能力”,是最紧迫的集成挑战。AI Agent 交互领域正在经历一场 “协议时代” 的标准化浪潮,主要涉及三个协议层次:
MCP(模型上下文协议,Model Context Protocol):由 Anthropic 于 2024 年 11 月推出,解决的是 “AI— 工具” 通信问题。它让 AI Agent 像插 USB 设备一样调用外部工具、数据源和 API,实现与外部环境的无缝集成。
A2A(智能体间协议,Agent-to-Agent):由 Google 发起并托付 Linux 基金会,已经成为拥有超过 150 个组织在生产环境中使用的开放标准。它解决的是 “AI—AI” 通信问题 —— 让不同厂商、不同框架构建的智能体能够相互发现、通信和协作,而无需为每个组合编写定制化集成代码。
A2UI(智能体 — 用户界面协议,Agent-to-User Interface):这是一个开源协议和开放标准,允许 AI Agent 通过声明式的 JSON 消息来描述交互意图,由前端的运行时将这些描述动态渲染为原生 UI 组件。“不要只做 A2A,要做 A2UI”—— 仅仅让 Agent 之间能够协作是不够的,Agent 还应当能够动态生成用户界面,实现与人类用户的高效交互。通过将 A2UI 与 MCP 集成,服务器可以在工具响应中将富 UI 作为嵌入资源返回,让兼容客户端渲染出交互式界面。
在实践中,企业应按以下策略落地协议生态:
遗留系统集成:为每个核心业务系统开发轻量级 MCP Server,将内部 API 封装为符合 MCP 标准的 “工具”。Agent 运行时通过 MCP 客户端连接到这些 Server,实现标准化调用。
多 Agent 协作:引入 A2A 标准,实现不同业务 Agent 之间的任务分发与状态同步。
动态界面生成:将 A2UI 标准引入前端架构,让 Agent 能够根据任务需求动态生成交互界面,实现人机交互的智能化。
2. 安全与确定性:护栏机制与人机协同
大语言模型本质上是一个概率生成引擎。在企业级应用中,这种不确定性需要通过多重机制加以约束。
护栏机制是保障系统可控的核心手段。它作用于多个环节—— 对用户输入进行权限校验(输入护栏),对 Agent 从自然语言中解析出的参数做严格的 JSON Schema 校验(参数校验护栏),在高风险工具调用前引入人工批准节点(工具调用护栏),在输出返回前进行内容安全过滤与幻觉检测(输出护栏)。
而人机协同(Human-in-the-Loop, HITL) 作为更宏观的设计原则,强调在 AI 系统的关键决策点与人类专家协同。行业实践表明,最需要引入人工检查点的四种场景是:高价值决策、不可逆操作、合规性要求,以及早期部署阶段的信任构建。更重要的是,HITL 应当被视为起点,而非终点 —— 设计目标是从高度人工介入开始,逐步积累系统表现一致的证据,然后循序渐进地移除人工环节。
3. 成本与效率:智能路由
调用不同大模型的成本与延迟差异巨大。智能路由是平衡成本与效率的核心策略—— 根据任务复杂度自动匹配合适的模型。行业实践已形成从传统基于规则的策略,到基于路由模型的演进方向。
如清华大学教授郑纬民所指出的,人工智能基础设施正从“智能生产” 阶段转向 “智能流通” 阶段,核心在于建立有效的智能路由能力,包括在多模型间选择最优模型的模型路由,以及在同一模型的不同 API 服务商之间进行性能与成本优化调度的服务路由。企业应建立企业级统一 API 路由平台,实现对所有模型调用入口的统一接入、统一计费和统一观测。
▎构建域:从“软件开发” 到 “智能体驱动开发”
这是最具颠覆性的层次。AI 不再只是开发者手中的 “副驾驶”,而是正在成为驱动整个软件生产流程的核心引擎。
1. BMAD 方法论:从自然语言到生产级代码
传统 AI 辅助开发的困境在于:AI 写出的代码 “能跑但不能维护”—— 缺乏结构化设计、任务规划和质量保证,最终变成难以交付和维护的技术债务。BMAD 方法论(Breakthrough Method of Agile AI-Driven Development)的出现正是为了解决这一问题。
BMAD 不再依赖单一的 AI 助手,而是引入了多个专门的 AI Agent 来模拟一个完整的开发团队,包括产品经理、架构师、开发工程师和测试工程师等角色。它通过结构化的 AI 访谈,将用户的初始想法快速转化为精确的技术规格说明。这些规格说明成为 AI 创作的 “蓝图”—— 从想法到产品设计、编码拆分、开发实施、产品生成再到测试,全流程由专门 Agent 协同完成,实现 “先有蓝图,后有建筑” 的开发范式。
2. Spec-Driven Development:给 AI 编程加上 “硬约束”
规范驱动开发是对“Vibe Coding(随性编码)” 的有力反思。在纯粹的 “让 AI 写代码” 模式下,AI 可以快速生成原型,但缺乏结构和文档,随着代码库膨胀,维护成本呈指数级上升。
Kiro 作为 AWS 推出的规范驱动 AI IDE,为这一理念提供了具体落地的工具形态。它将自然语言需求先转化为形式化的规范文档、设计文档和任务列表 ——“先画好清晰的蓝图,再开始施工”。与传统开发不同,这种 SDD 模式将需求挖掘、架构设计到任务开发的完整流程搬进了 AI 编程流程中,AI 不会太过随性,开发过程更稳定可控。Spec + RAG 的双引擎架构也正在成为业界主流 ——Spec 知识库作为 “宪法” 提供硬性规范和边界,RAG 知识库作为动态上下文提供柔性补充,形成 “刚性约束 + 柔性上下文” 的双脑协同机制。
3. 软件形态的未来:从智能体驱动开发到智能体即软件
更深层的变革是软件本身的形态正在被重写—— 传统大型管理软件不再是预定义的大一统系统,而是由一群相互协作的 AI Agent 动态组装而成。SDD 取代了传统瀑布式开发中的长篇 PRD 文档,成为开发者与 AI 之间的精确沟通语言。MCP 解决了 AI 与工具的通信,A2A 解决了 AI 与 AI 的协作,A2UI 解决了 AI 与人的交互界面 —— 三根支柱共同构成了软件从 “开发” 到 “形态” 再到 “运行” 的 AI 原生闭环。传统 ERP、OA 等管理软件的功能模块将被可插拔的 Skill 和智能 Agent 替代,用户通过自然语言与 Agent 交互,Agent 再通过 MCP 调用企业能力并动态生成 A2UI 界面。
4. 现代 AI Agent 运行时的技术生态
支撑这一构建层转型的现代 AI Agent 运行时生态正在快速成熟。DeerFlow 是一个典型的开源 SuperAgent 智能体运行时 —— 通过沙盒、记忆、工具、技能和子 Agent 协同工作,处理从数分钟到数小时不等的复杂任务。其核心机制包括:Agent 技能按需渐进加载,只加载需要的内容;为 Agent 提供一个可执行命令、管理文件和运行长周期任务的 “虚拟计算机”,全部运行在安全的 Docker 沙盒中;与 All-in-One Sandbox 无缝集成,在单一容器中融合浏览器、Shell、文件系统、MCP 和 VSCode Server。Skill 的按需加载机制与 OpenViking 的 L0/L1/L2 三级上下文加载形成互补 —— 前者管理 Agent “能做什么”,后者管理 Agent “知道什么”,共同构成 Agent 运行时环境的核心基础设施。
▎治理层:应用与安全的四大支柱
在以 Agent 为中心的企业 AI 架构中,治理层的核心使命是在“不确定性” 与 “业务确定性” 之间架起桥梁。大语言模型本质上是概率生成引擎,同样的输入可能产生截然不同的行为;而企业业务要求可控、可审计、可预测。治理层正是为解决这一根本矛盾而设计,包含四大相互关联的治理机制:护栏机制、智能路由、人机协同与成本监控。
1.护栏机制:为概率引擎划定确定性边界
护栏机制是保障 AI 系统安全可控的第一道防线。它通过一系列预设规则,在模型的输入、推理与输出环节主动拦截异常行为,确保 AI Agent 的运行始终处于安全边界之内。
护栏机制在四个层次发挥作用:
输入护栏:在用户请求到达 Agent 之前进行校验。包括:SQL 注入检测、提示词注入攻击识别、敏感词过滤、权限校验(用户是否有权执行其请求的操作)。不符合规则的请求被直接拒绝或降级处理。
参数校验护栏:当 Agent 准备调用工具(如 MCP Server 暴露的 API)时,其从自然语言中解析出的参数必须经过严格校验。采用 JSON Schema 等规范对参数类型、取值范围、必填性进行检查。例如,若 Agent 要调用 “转账” 工具,但解析出的金额为负数或超出账户余额,护栏将拒绝该调用并要求 Agent 澄清或重新规划。
工具调用护栏:对于高风险操作(如数据库写入、系统配置变更、财务交易),在工具调用真正执行前引入二次确认机制。这可以是自动规则拦截(如“禁止在非工作时间执行批量删除”),也可以是人工审批节点(见第三节 “人机协同”)。
输出护栏:在模型生成的结果返回用户之前,进行内容安全过滤(去除不当言论)、信息脱敏(隐藏身份证号、手机号等敏感信息)、幻觉检测(验证生成的答案是否基于检索到的知识库)。护栏实施后,确保最终输出的安全与可靠。
行业实践表明,成熟 AI 平台通常部署 8 到 9 道护栏,覆盖提示词注入防御、敏感数据掩码、越狱攻击拦截、引用校验等多个维度。护栏机制的关键设计原则是 **“默认拒绝,显式放行”**—— 任何未通过校验的行为都被视为非法。
2.智能路由:为不同任务匹配合适的模型
不同大模型在能力、成本、延迟之间存在显著差异。旗舰模型在复杂推理任务上表现卓越,但调用成本高、响应慢;轻量级模型虽能力有限,但成本低廉、速度快。智能路由的核心任务是根据任务复杂度,自动将请求分配到最合适的模型,实现“用对的模型做对的事”。
智能路由包含两个核心子能力:
模型路由:在多模型之间选择最优模型。例如,一个简单的 FAQ 问答可直接路由至轻量模型(如千问 - 1.8B),成本极低;而一个需要多步推理、工具调用的复杂任务则路由至旗舰模型(如 GPT-4o 或 Claude 3.5 Sonnet)。行业正从基于规则的静态路由(如 “关键词匹配则走小模型”)向基于路由模型的动态路由演进 —— 训练一个轻量分类器,实时评估任务复杂度并做出路由决策。
服务路由:在同一模型的不同 API 服务商之间进行调度。例如,当某家 API 服务商出现延迟飙升或配额不足时,服务路由自动将流量切换到备用服务商。该机制还支持成本优化,优先选择价格更低的同一模型提供商。
智能路由需要与企业级统一 API 路由平台相结合。该平台对所有模型调用入口进行统一接入、统一计费和统一观测。它记录每次调用的模型类型、Token 消耗、响应时间和返回质量,为后续路由策略优化提供数据支撑。正如清华大学教授郑纬民所指出,人工智能基础设施正从 “智能生产” 阶段转向 “智能流通” 阶段,智能路由能力是其核心标志。
3.人机协同:在关键节点引入人类判断
人机协同是 AI 系统在不确定性面前最可靠的 “安全阀”。它承认一个基本事实:在当前技术阶段,AI Agent 的自主决策存在错误可能。因此,在关键决策点保留人类介入的能力,既是安全机制,也是信任构建的起点。
人机协同在实践中有两种主要模式:
关键节点中断审批:Agent 在处理高风险操作前自动暂停,将待审批的操作指令发送到人工审批队列。审批信息需包含完整的执行上下文:Agent 的推理链(为什么做出这个决策)、操作详情(调用什么工具、传递什么参数)、工作记忆(前序对话与步骤)。审批通过后,Agent 从暂停处恢复执行,无需重新加载上下文。典型场景包括:大额转账、生产环境部署、跨域数据导出、面向客户的合同生成。
工具调用的统一管控:企业可建立工具调用看板,安全运维人员实时监控 Agent 正在调用的工具和 API。一旦发现异常调用模式(如高频调用某敏感 API、非工作时间密集操作),管理员可远程中断 Agent 执行并接管操作。
人机协同的关键设计原则是:将人工介入视为起点,而非终点。在设计系统时,初期应设置较多的人工检查点,待系统运行稳定、积累足够证据(如连续 100 次审批零误报)后,再循序渐进地移除或放宽人工环节。这种渐进式设计既保证了早期安全性,也为全自动化指明了优化路径。
4.成本监控:让AI 支出透明可管理
大模型调用是按 Token 计费的,成本结构与传统软件截然不同。一个不经意的循环调用或一次长上下文的复杂推理,可能导致单次成本高达数美元。成本监控机制的目标是让 AI 支出变得透明、可控、可优化。
成本监控的核心要素包括:
Token 消耗的实时追踪:每一次模型调用,记录输入 Token 数、输出 Token 数、调用模型、触发场景、用户 / 部门归属。通过仪表盘实时展示整体消耗趋势。
预算管理与告警:为每个部门、项目或应用场景设置月度 Token 预算。当消耗达到阈值(如 80%、100%、120%)时,自动触发告警通知相关负责人。超出预算的调用可被自动阻断或需二次审批。
成本分摊与归属:将 Token 消耗按业务线、项目、用户等维度进行分摊,生成清晰的成本账单。这使得 AI 使用成为企业 IT 成本管理的组成部分,而非一笔糊涂账。
优化闭环:基于成本数据识别高消耗场景,反向指导路由策略优化、Prompt 精简、缓存机制设计或分层 Memory 架构的引入。例如,若发现某类高频查询消耗大量 Token,可考虑将结果缓存或训练一个专用小模型替代大模型调用。
成本监控与智能路由形成闭环:路由决策参考实时的成本数据,成本异常又触发路由策略调整。四者同贯穿层的其他机制共同构成了一个 **“感知 — 决策 — 执行 — 反馈”** 的完整治理环路,确保企业 AI 应用在可控的边界内发挥最大价值。
▎团队建设:支撑新架构的组织保障
围绕上述技术架构,企业 AI 团队的组织结构需要相应调整。
AI 算法工程师:负责底层模型评估、算力资源调度与基础设施运维。
应用开发工程师:负责 Agent 开发、RAG 能力建设、Skill 与 MCP/A2A/A2UI 相关协议实现。这类工程师需要具备 AI 辅助编程的能力,掌握 SDD 等开发范式。
业务运营人员:负责业务需求的识别与拆解、效果验收、使用反馈闭环以及人机协同边界划定。
在治理原则方面,企业应遵循“聚焦护城河,拥抱开源与标准” 。Agent 运行时、编排框架、向量数据库等基础设施层被更专业方案取代的速度极快,企业不应在这些领域重复造轮子。同时,行业标准正在快速收敛到 MCP、A2A、A2UI 等主流协议上 —— 选择这些公开标准,意味着企业能够无缝接入更完善的工具链和更大规模的开发者生态。
▎总结:智能外围的演进路线图
综合上述行业观察与实践,可提炼出企业 AI 应用的务实演进路线图:
第一步:夯实地基(知识层)采纳混合 RAG + 分层 Memory 策略。用 GLM-OCR 等通用 OCR 模型解析存量非结构化文档,采用多 Embedding 混合检索提升召回率。在小范围业务场景试点构建轻量级语义层,解决核心概念歧义问题。
第二步:打开行动通道(行动层)围绕 MCP/A2A/A2UI 三大协议建设标准化集成能力。优先为 2 到 3 个高价值遗留系统开发 MCP Server,实现能力标准化封装。同时建立企业级统一 API 路由平台和护栏机制,确保集成的安全性与成本可控。
第三步:推进开发范式转型(构建层)引入 BMAD 方法论与 Spec-Driven Development,将软件开发流程从 “模糊 prompt → AI 直接写代码” 转变为 “结构化访谈 → 精确规格 → 角色 Agent 协同开发 → 持续验证” 的全新模式。同时,在团队组织上向三类核心角色演进,确立 “聚焦业务、拥抱标准” 的核心原则。
这场向 AI 驱动的企业数字化演进没有终点,但已呈现出清晰的前进方向。无论底层模型如何以周为单位迭代,企业围绕自身业务构建的知识层、行动层和构建层 —— 以及贯穿其中的安全、成本、治理原则 —— 将是消化 AI 技术红利、构建长期数字化竞争力的核心所在。从根本上说,这种转型正在将软件的使命从 “呈现信息” 转变为 “完成任务”,而这正是未来十年企业数字化发展的主旋律。
▎附录
附录一:名词索引
核心架构概念
术语 | 英文 | 定义 |
Agent Runtime | Agent Runtime | AI Agent 执行的运行环境,包含执行引擎、上下文服务、网关、安全可观测五大组件,为 Agent 提供从构建、部署到运行的完整底座。 |
MCP | Model Context Protocol(模型上下文协议) | 由 Anthropic 于 2024 年 11 月推出的开源协议标准,为大语言模型与外部工具、数据源和系统之间的交互提供标准化接口,被誉为 AI 工具调用的 “Type-C” 协议。 |
A2A | Agent-to-Agent Protocol(智能体间协议) | 由 Google 发起、Linux 基金会托管的开放协议,让不同厂商、不同框架构建的 AI 智能体能够相互发现、委托任务和协调工作,成为智能体互联网时代的 HTTP。 |
A2UI | Agent-to-User Interface(智能体 — 用户界面协议) | Google 推出的开放协议,允许 AI Agent 通过声明式 JSON 消息描述交互意图,由前端运行时动态渲染为原生 UI 组件,使 Agent 能够实时生成交互式图形界面。 |
RAG | Retrieval-Augmented Generation(检索增强生成) | 通过整合外部知识库,使大语言模型在生成答案时以检索到的权威文档为事实边界,有效弥补模型在实时性、准确性和专业性上的固有缺陷。 |
混合 RAG | Hybrid RAG | 结合关键词检索(如 BM25)和多种 Embedding 模型的向量检索的检索策略,大幅提升查询精度和召回率。 |
护栏机制 | Guardrails | 通过一系列预设规则在模型输入、输出和行为层面进行主动拦截和修正的机制,包含输入护栏、参数校验护栏、工具调用护栏和输出护栏等多个环节。 |
人机协同 | Human-in-the-Loop (HITL) | AI 系统的设计原则,在关键决策点与人类专家协同工作,通常体现为关键节点中断审批和工具调用的统一管控两种模式。 |
开发方法论
术语 | 英文 | 定义 |
BMAD 方法论 | Breakthrough Method of Agile AI-Driven Development | 引入多个专门的 AI Agent 模拟完整开发团队,通过结构化 AI 访谈将用户想法转化为精确技术规格,覆盖从想法到产品设计、编码、测试全流程的开发框架。 |
SDD | Spec-Driven Development(规范驱动开发) | 以结构化功能规范为起点的开发流程,先定规范再写代码,把规范作为可执行真相源,指导 AI 代码生成的开发范式。 |
Harness Engineering | 智能体流水线工程 | 设计、构建和迭代完整运行环境与制度体系,引导约束 AI 智能体自主、可靠完成复杂长周期任务,无需人类实时干预。 |
知识管理与上下文
术语 | 英文 | 定义 |
分层 Memory | Layered Memory | 模拟人脑记忆层级机制,分为 L0/L1/L2 多级,分级管控、异步存储、联动调用,优化 Token 消耗与推理效率。 |
OpenViking | OpenViking | 开源上下文数据库,以 viking:// 协议组织记忆资源技能为文件系统层级结构,L0/L1/L2 三级按需加载,实现分层记忆与递归检索。 |
Embedding | Embedding | 将词语 / 句子转为连续实数向量,用数学方式承载语义,是向量检索核心技术。 |
BM25 | BM25 | 业界标准关键词检索排序算法,基于词频逆文档频率,适配文档长度、抑制词频饱和,广泛用于混合检索。 |
AI 基础设施
术语 | 英文 | 定义 |
五层蛋糕 | Five-Layer Cake | 黄仁勋 AI 产业架构:能源、芯片、基础设施、模型、应用,上层应用强依赖底层底座。 |
Agent | AI Agent / 智能体 | 可感知环境、自主推理、调用工具技能完成目标的智能实体,以大模型为认知中枢。 |
DeerFlow | DeerFlow | 字节开源 SuperAgent 运行时,整合沙箱、记忆、工具、子 Agent,支持长周期复杂任务自动化。 |
OpenClaw | OpenClaw | 开源 AI 智能体运行时,可本地部署,具备自主执行能力,实现从对话到端到端复杂任务执行。 |
GLM-OCR | GLM-OCR | 基于 GLM-V 多模态 OCR 模型,0.9B 参数高准确率,支持高并发、边缘部署,可一键 Skill 调用。 |
企业级AI 开发工具
术语 | 英文 | 定义 |
Dify | Dify | 开源 LLM 应用平台,多模型接入、可视化工作流、RAG 知识库,支持 SaaS / 私有化,企业级常用。 |
LangChain | LangChain Inc. | 模块化 AI 应用组件库,链式 / Agent 编排,灵活组装工具与大模型。 |
LangGraph | LangGraph | 基于图的有状态 Agent 编排框架,适合多角色、复杂长流程生产级智能体。 |
Kiro | Kiro | AWS AI IDE,主打 Spec-Driven 规范驱动,把自然语言先转规范再开发。 |
SpecKit | GitHub Spec Kit | GitHub 规范驱动工具包,标准化工作流、可复用 AI 指令,落地 SDD 开发。 |
Cline | Cline | IDE 内置自主编码 Agent,可读写文件、执行命令、浏览网页,充当 MCP 生态 Host 调用工具。 |
智能体生态协议
术语 | 英文 | 定义 |
AG-UI | Agent-User Interface Protocol | AI 智能体与前端界面交互协议栈,负责事件流、状态同步、工具调用,与 A2UI 互补。 |
附录二:当前行业AI 产品推荐
基于产品生态成熟度、社区活跃度和企业应用可行性,以下按类别推荐主流 AI 产品和工具:
Agent 编排与开发平台
产品名称 | 开发方 | 核心能力 | 适用场景 | 安装 / 部署方式 | 成熟度评估 |
Dify | Dify.AI | 开源 LLM 应用开发平台,支持多模型接入、可视化工作流编排、RAG 检索增强、知识库管理 | 企业级 AI 应用开发,知识库问答系统,Agent 工作流编排 | SaaS / Docker 私有化部署 / 企业版 | ⭐⭐⭐⭐⭐生态完善,全球社区活跃,企业级支持成熟 |
LangChain | LangChain Inc. | Agent 编排框架,提供高度模块化的组件库,支持 ReAct 模式动态选择和调用工具 | 复杂 Agent 系统构建,多步骤任务编排,研究型 AI 应用 | pip install langchain / 开源 | ⭐⭐⭐⭐⭐累计下载超 10 亿,百万 + 开发者使用,1.0 版本稳定 |
Coze | 字节跳动 | AI 智能体开发平台,低门槛、强生态整合,依托字节生态提供丰富插件和模板 | 快速搭建对话 Agent,多轮交互场景,内容生成应用 | 云端 SaaS / 移动端 App | ⭐⭐⭐⭐国内用户基础广,功能易用,企业级深度场景待拓展 |
DeerFlow | 字节跳动 | SuperAgent 运行时框架,整合沙箱、记忆、工具、技能、子 Agent,支持长周期复杂任务自动化 | 深度研究任务自动化,跨系统复杂业务流程,多 Agent 协作 | Docker / 源码部署(基于 LangGraph) | ⭐⭐⭐⭐ 2.0 版本登顶 GitHub Trending,社区活跃,生态持续建设 |
MCP 生态与集成工具
产品名称 | 开发方 | 核心能力 | 适用场景 | 安装 / 部署方式 | 成熟度评估 |
Cline | Cline 团队 | IDE 内置自主编码 Agent,与 MCP 深度集成,可作为 MCP Host 调用各类 MCP Server 工具 | AI 辅助编程,MCP Server 开发测试,自动化编码任务 | VS Code 扩展 | ⭐⭐⭐⭐社区活跃,MCP 集成深入,功能持续迭代 |
GitHub MCP Registry | GitHub | MCP 服务器中央发现平台,高效搜索和部署 MCP Server | MCP Server 发现与接入,AI 开发工具链集成 | 云端服务 | ⭐⭐⭐⭐与 MCP 生态同步,服务器数量持续增长 |
AI 编程与开发工具
产品名称 | 开发方 | 核心能力 | 适用场景 | 安装 / 部署方式 | 成熟度评估 |
Kiro | AWS | AI 驱动 IDE,基于 VS Code 构建,主打规范驱动开发 | 规范驱动开发实践,企业级应用开发,高质量可维护代码场景 | SaaS / 云端 IDE | ⭐⭐⭐ 2025 年发布,理念前瞻,需更多实践验证 |
GitHub Copilot | GitHub/Microsoft | AI 编程助手,代码补全与智能生成 | 日常编码辅助,快速原型开发 | IDE 插件 / 订阅制 | ⭐⭐⭐⭐⭐市场占有率高,与 GitHub 生态深度整合 |
OpenClaw | 开源社区 | 开源 AI 智能体运行时,可本地部署、自主执行复杂任务,多行业企业场景落地 | 企业级 RPA 自动化,智能客服,物联网设备自然语言控制 | 本地部署 / Docker | ⭐⭐⭐⭐按周迭代,多企业领域生产场景已验证 |
开源模型与本地化部署
产品名称 | 开发方 | 核心能力 | 适用场景 | 安装 / 部署方式 | 成熟度评估 |
Qwen(通义千问) | 阿里巴巴 | 国产开源大模型,覆盖轻量级到旗舰级全系列,支持私有化本地部署 | 企业私有化部署,数据敏感场景,中文 AI 应用 | Ollama /vLLM/ 阿里云服务 | ⭐⭐⭐⭐⭐全球用户广,迭代快,开源生态活跃 |
DeepSeek | 深度求索 | 开源大模型系列,配套向量检索引擎、RAG 框架等工具 | 企业知识管理、私有化部署、RAG 应用落地 | 本地部署 / API 服务 | ⭐⭐⭐⭐ GPT-4 级别能力,开源生态完善 |
GLM 系列 | 智谱 AI | 国产开源大模型,对话、向量、推理、多模态完整矩阵 | 中文场景、Embedding 检索、多模态处理 | API 服务 / 本地化部署 | ⭐⭐⭐⭐国产大模型代表,多模态能力突出 |
LLMOne | 开源社区 | 企业生产级大模型私有化部署与全栈管理工具 | 快速搭建私有化 AI 推理环境,多模型统一运维 | 本地部署 | ⭐⭐⭐ 2025 年发布,偏重基础设施,对运维有一定要求 |
知识管理与检索
产品名称 | 开发方 | 核心能力 | 适用场景 | 安装 / 部署方式 | 成熟度评估 |
MaxKB | Dromara 开源社区 | 开源知识库问答系统,GitHub 万星项目 | 企业知识库、智能客服、内部文档问答 | Docker 私有化部署 / 源码安装 | ⭐⭐⭐⭐轻量易用,开源社区活跃 |
Milvus | Zilliz | 开源向量数据库,支持全链路混合检索 | 大规模向量检索、多模态存储、RAG 存储层底座 | Docker / Kubernetes / 云服务 | ⭐⭐⭐⭐⭐业界成熟标杆,持续迭代 |
OpenViking | 开源社区 | 开源上下文数据库,viking:// 协议 + L0/L1/L2 三级加载,大幅降低 Token 消耗 | Agent 上下文管理、分层记忆架构、跨会话知识持久化 | REST API / Python SDK | ⭐⭐⭐⭐成本优势明显,与 OpenClaw 形成完整记忆生态 |
前端与交互
产品名称 | 开发方 | 核心能力 | 适用场景 | 安装 / 部署方式 | 成熟度评估 |
A2UI Renderer | Google 开源社区 | A2UI 协议渲染器,支持 Lit/Angular/Vue 等框架 | Agent 动态生成 UI、对话式应用富交互界面 | npm 安装 JS 库 | ⭐⭐⭐ 2025 年发布,协议处于早期推广阶段 |
方法论与流程
产品名称 | 开发方 | 核心能力 | 适用场景 | 安装 / 部署方式 | 成熟度评估 |
BMAD-METHOD | bmad-code-org | AI 驱动敏捷开发框架,多 Agent 协同,内置 42 项 AI 开发技能 | AI 软件开发全流程治理、大规模 AI 驱动项目 | npm / TOML 配置 | ⭐⭐⭐⭐方法论迭代至 v6.0,社区活跃 |
SpecKit | GitHub | 规范驱动开发工具包,结构化工件管理,适配 AI 编码助手 | 保障 AI 代码规范可维护、团队协作代码统一 | Markdown 规范文档 | ⭐⭐⭐⭐适配 GitHub 生态,规范约束能力强 |
附录三:相关专业文章链接
基础架构与名词定义
MCP 协议官方网站:https://modelcontextprotocol.io
MCP 规范完整中译稿:https://cloud.tencent.cn/developer/article/2495787
A2A 协议技术文档:https://agent2agent.info
A2UI 协议介绍:https://x.ant.design
Milvus 混合检索文档:https://milvus.io/docs/milvus_hybrid_search_retriever.md
BMAD-METHOD 官方网站:https://www.npmjs.com/package/@cloudkinetix/bmad-enhanced
行业趋势与架构文章
黄仁勋博客:AI is a 5-Layer Cake:https://blogs.nvidia.com/blog/ai-5-layer-cake/
OpenViking 核心解析:https://developer.baidu.com/article/details/3536602
DeerFlow 深度解析:https://www.heise.de/news/DeerFlow-Super-agent-framework-from-ByteDance-10447673.html
企业级 AI 架构的工程化落地:https://www.tmtpost.com/7452918.html
2025 企业 AI 架构标准化指南:https://cloud.baidu.com/article/3360094
阿里云研究院:2025AI 超级公司白皮书:https://www.aliyun.com/lp/ai-super-company-2025
从 RAG 到 Agent 的架构演进与生态重构:https://developer.baidu.com/article/details/3551292
AI Agent 三大交互协议 MCP/A2A/AG-UI:https://developer.aliyun.com/article/1652570
企业应用与产品
Dify 企业级 Agent 构建平台:https://www.huaweicloud.com/product/dify.html
LangChain Enterprise Agentic AI Platform:https://www.langchain.com
OpenClaw 企业级落地实践:https://developer.baidu.com/article/details/3572051
GLM-OCR 官方网站:https://github.com/zai-org/GLM-OCR
DeerFlow 官方网站:https://deerflow.tech
MaxKB 开源知识库问答系统:https://cloud.baidu.com/article/3351742
OpenViking 官方网站:https://openviking.ai
夜雨聆风