乐于分享
好东西不私藏

[AI 基础工程系列·番外篇] 由单体到系统化:组成现代 AI Agent 的四层架构图

[AI 基础工程系列·番外篇] 由单体到系统化:组成现代 AI Agent 的四层架构图

引言:由大模型到Harness

2022年底,ChatGPT发布后,大语言模型(LLM)的可用性确实迎来了质的飞跃。模型迭代速度越来越快,泛化能力和逻辑推理能力也越来越强,大模型开始真正融入人们的日常生活和工作流。

一开始,我们主要把大模型当聊天机器人用。基本形态就是一个"拥有超强大脑的推理引擎"加上一个"简单的交互界面"。但随着用得越来越深,大模型原生架构的局限性开始暴露,主要表现在三个核心痛点:

  1. 缺乏领域专业性:
     作为通用模型,它足够"通识",但在垂直细分领域缺乏深度。
  2. 无状态与记忆丢失:
     模型在不同的对话Session间无法共享记忆;且受限于上下文窗口,长对话极易导致"遗忘"。
  3. 事实幻觉(Hallucination):
     当缺乏相关事实依据时,模型极易基于概率"胡编乱造"。

为了解决这些问题,AI领域的工程实践开始分化演进:

  • 针对专业性问题,Prompt Engineering(提示工程)成了最早的解法。通过精细化的System Prompt和Role(角色)设定,我们能为模型注入"专家人设"和行为约束,逼迫它输出更专业的回答。

  • 针对记忆缺失和幻觉问题,Context Engineering(上下文工程)成了核心发力点。通过引入外部数据库和RAG(检索增强生成)机制,系统能将用户的历史对话和关键偏好转化为持久化的"私有知识库"。这不仅赋予了模型长期的"记忆",更成了现阶段各AI产品留存用户的核心壁垒。

然而,当Prompt和Context让大模型变成了一个极其专业的"全知顾问"后,开发者的野心并没有停止。我们开始希望AI不仅能"动嘴",还能"动手"——也就是大跨步地从Chatbot(聊天机器人)向Agent(智能体)演进。我们赋予了它读写数据库、调用API、甚至执行底层代码的权限。

这立刻引出了一个极其致命的新痛点:

4. 执行失控与系统性风险: 大模型本质上依然是一个基于概率的预测引擎,它的输出天然带有"非确定性"。当它只是陪聊时,幻觉顶多是一个笑话;但当它拥有了执行系统命令的权限时,一次逻辑跑偏就可能演变成一场灾难(例如在生产环境中执行了破坏性的删除命令)。

举个具体的例子:假设你正在使用OpenClaw这样的自动化Agent工具,你随口给它下达指令:"帮我清理一下项目中无用的历史临时日志"。OpenClaw迅速理解了意图,但由于对当前工作目录的层级产生了轻微的"上下文幻觉",这头不知轻重的AI猛兽,直接在生产环境的根目录下静默执行了一句find . -name "*log*" -exec rm -rf {} +,顺手就把你核心业务的数据库事务日志(Transaction Logs)给彻底清空了。

在这种场景下,大模型越"聪明"、执行力越强,没有护栏的裸跑带来的灾难就越彻底。

为了锁死这头长出"手脚"的猛兽,Harness Engineering(驾驭与护栏工程)必然地登上了历史舞台。

如果说Prompt是给模型下达的"点菜单",Context是给它外挂的"记忆库",那么Harness Engineering就是给它穿上的"防弹衣"和建立的"自动化质检流水线"。它通过系统级的沙盒隔离、权限剥夺、工具调用的标准化(如MCP协议),以及"Write-Test-Fix(写-测-修)"的闭环验证机制,将大模型不可控的非确定性行为,死死地关进了确定性的系统边界内。

只有补齐了Harness这一环,AI才能真正褪去"玩具"的属性,成为可以在生产环境中稳定交付的工业级"自动化员工"。

四层架构:从系统工程师角度,梳理堆栈

于是我们突然发现,围绕着22年底刚出来时候的大模型,开发者们为了驯服这头"猛兽",已经发展了一整套严密的工程化堆栈。

让我们从系统工程师的视角重新审视这套堆栈,它已经不再是一个单体的黑盒,而是演化成了权责分明的四层架构

  1. 大模型(大脑)
  2. 交互窗口(眼耳鼻)
  3. Harness(神经中枢)
  4. 操控接口(手脚)

它们的运转逻辑是这样的:工程师们通过2(交互窗口)输入意图;3(Harness)作为整个系统的总调度中心,不仅负责约束和调度1(大模型)的大脑算力,还负责在确保安全的前提下,通过标准化的4(操控接口),让系统最终与物理/数字世界产生真实的交互。

让我们逐一解剖这四层架构:

1. 大模型(大脑):Token 引擎,是纯粹的算力、概率的分布

  • 工程本质:
     它是被剥离了所有外设的"裸金属CPU"。它没有记忆,不连接外网,不拥有任何状态。它的唯一功能,就是接收输入,并计算出下一个Token的概率分布。
  • 产品形态:
     各大云厂商提供的底层API(如Gemini 3、GPT-4o)。
  • 定位属性:
     这是基础设施层的"水和电"。对于绝大多数开发者而言,这里没有任何护城河,我们只是算力的消费者。

2. 交互窗口(眼耳鼻):对话工具,用户意图采集的GUI

  • 工程本质:
     它是承载用户输入的前端界面。无论是Web对话框、IDE(如Cursor)的侧边栏,还是智能硬件的麦克风,它的核心任务是"降噪"与"意图采集"。
  • 产品形态:
     各种AI助手的客户端、Chatbox、以及语音交互界面。
  • 定位属性:
     这是Prompt Engineering发挥作用的主战场。它负责将人类模糊的、甚至夹杂着情绪的自然语言("这代码怎么又跑崩了?"),过滤并格式化为后台系统可读的结构化输入。

3. Harness(神经中枢):调度与护栏框架,系统的 OS Kernel

  • 工程本质:
     这正是OpenClaw及其各种衍生品所在的生态位。它是连接"概率引擎"与"确定性物理世界"的中间件。它负责接管文件系统树、维护工作区状态(Context内存管理)、设定沙盒隔离边界,并在模型出错时自动触发Write-Test-Fix(写-测-修)循环。
  • 产品形态:
     高级Agent框架、自动化Vibe Coding的底层运行时(Runtime)。
  • 定位属性:
     这是整个智能系统真正的"大管家"和控制平面。模型本身不会去查文档,是Harness截获了模型的意图后去触发了RAG管道;模型本身也不会修Bug,是Harness捕获了编译器的Error Log并反向注入给模型大脑。

4. 操控接口(手脚):CLI调用与底层接口,系统调用的 Actuators(执行器)

  • 工程本质:
     这是Agent真正改变数字世界的"手脚"与执行器。在云原生和操作系统层面,这一层强调的是接口的绝对原子化与标准化。大模型不需要知道如何编写复杂的eBPF追踪脚本,它只需要知道呼叫一个封装好的高层命令。
  • 产品形态:
     操作系统命令、各类SaaS软件开放的API网关、MCP(Model Context Protocol)标准接口。
  • 定位属性:
     它是将AI的计算结果转化为物理或系统状态改变的最后一公里。

四层调用链:从云原生基础设施的角度再看看

以云原生基础设施的视角来看,这四层堆栈可以类比成:

  1. 大模型(大脑) ↔️ CPU / Bare Metal 算力节点: 它是纯粹的ALU(算术逻辑单元)。它没有持久化存储,只负责无状态的"计算指令"执行,算完立刻清空上下文。
  2. 交互窗口(眼耳鼻) ↔️ Shell / Gnome / kubectl: 它是User Space(用户态)的最外层接口,负责接收人类的声明式意图。
  3. Harness(神经中枢) ↔️ Linux Kernel / Kubernetes 控制平面: 它是整个系统的灵魂。RAG的内存管理相当于内核的虚拟内存(VMM/Paging)置换;沙盒边界相当于Namespaces与Cgroups;错误重试机制则完美等同于Kubelet的Reconciliation Loop(控制循环),不断调谐系统以达到期望状态。
  4. 操控接口(手脚) ↔️ Syscalls (系统调用) / POSIX API: 被标准化、原子化暴露出来的底层接口,屏蔽了复杂的硬件驱动。

为了便于理解,我们再举一个真实的排障场景深化一下。假设当你在键盘上敲下:"写个脚本排查下网络延迟"时,真实的系统控制流是这样的:

  1. 交互窗口 (Shell): 接收你的自然语言Prompt,将其格式化为标准的API请求发给后台。
  2. Harness (Kernel/K8s): 截获请求,立刻分配资源。它建立一个安全的沙盒容器(Namespaces),将当前系统的网络架构图和近期的Error日志(VFS/存储卷)挂载进去,拼装成完整的上下文。
  3. 大模型 (CPU): 在Harness提供的上下文中飞速运转,利用其庞大的参数矩阵进行"推理计算",输出了一段准备调用底层eBPF探针的Python排障代码。
  4. Harness (Kernel): 拦截这段代码,坚决不让它裸跑。Harness先在沙盒里做一次语法检查(静态编译)。如果发现语法报错,Harness会像抛出Exception一样将Error Log扔回给大模型要求重写,直到检查通过。
  5. 操控层 (Syscalls/API):确认代码绝对安全后,系统才通过标准化的底层API执行代码,真正去读取网卡的I/O状态,并将执行结果(stdout/stderr)原路返回。

启示:从业者在 AI 时代的个人定位

面对不可逆的AI浪潮,很多处于转型期的底层架构、云原生和系统工程师经常会思考一个问题:在基础模型智商越来越高的时代,我的个人技术定位和不可替代性究竟在哪里?

这张四层架构蓝图给出了最清晰的答案。

去卷底层的"Token引擎"是巨头的重资本游戏;去卷最上层的"交互窗口"很容易陷入UI层面的同质化红海。

真正属于系统工程师、架构师和极客的星辰大海,在于Harness(调度与护栏)操控(底层CLI与API封装)这两层。

把深厚的Linux内核经验、复杂的K8s编排逻辑,通过标准化协议封装为模型可调用的"操控"接口;用严密的系统思维,去构建像OpenClaw这样甚至比它更强大的Harness运行时,让大模型在可控的边界内发挥出百倍的效能。

这,就是2026年最具商业价值的工程壁垒。抛弃对单体"智能魔法"的幻想,用搭积木的工程化思维去重构智能,才是我们在这场技术革命中最好的杠杆。