夜雨聆风
6月21日,软件工程界教父级人物 Martin Fowler 发了一篇长文。
《Building reliable agentic AI systems》——构建可靠的 agentic AI 系统。
112 分,23 条评论,HN 首页热帖。
我读完第一遍,合上电脑,想了一会儿。
写的不是科普,是写给工程师的"AI Agent 工程化指南"。
Fowler 这个人,写过的书包括《重构》《企业应用架构模式》《分析模式》,基本是软件工程领域的"参考书鼻祖"。
他写的不是技术教程,是思考框架。
这篇文章的核心不是"怎么用 AI Agent",是"怎么让 AI Agent 在生产环境里不出事"。
我把它翻译成中文工程师能直接用的 5 条铁律——
铁律 1:Agent 是实习生,不是魔法
Fowler 开篇就讲了一个比喻:
"把 Agent 当成新来的实习生。它有热情,但判断力有限,需要被引导、被监督、被审查。"
这话翻译成工程语言就是:
Agent 不是一个"能完成任务的工具",是一个"需要被工程化管理的执行者"。
它能干活,但它没有全局视野。
它会出错,而且错得很有自信。
你不能给它"目标"就完事了,你得给它"流程"——每一步可中断、可回滚、可审计。
铁律 2:三大支柱——护栏、评估、降级
Fowler 把 Agent 的"可靠性"拆成三大支柱:
支柱 1:分层护栏(Guardrails)
不是"一个 if 拒绝",是多层级防御:
输入层:prompt injection 检测 工具调用层:权限白名单 输出层:敏感信息过滤 行为层:连续异常自动熔断
光靠 prompt 里写"你不能做 XX"是不够的,得在系统架构上卡死。
支柱 2:评估基础设施
传统软件:写单元测试 → 跑测试 → 上线。
Agent 系统:你没法写单元测试,因为输出非确定性。
你需要一个持续的 benchmark pipeline——固定测试集 + 关键场景 + 失败回滚机制。
不是"上线后看用户反馈",是"上线前就有一堆红灯在等着你"。
支柱 3:优雅降级
Fowler 讲了一个很反常识的观点:
"Agent 失败时,系统的正确反应不是崩溃,是降级。"
AI 算错了,不要整个流程挂掉。
降级到"人工审核",降级到"用上一版本的 cache 结果",降级到"明确告诉用户:这事 AI 搞不定,请人工处理"。
降级不是认输,是工程化的"安全网"。
铁律 3:让 Agent 决定"何时停",是危险的设计
Fowler 直接点名了一个常见反模式:
"很多团队让 Agent 自己决定'任务什么时候算完成'。这是灾难的开始。"
Agent 的"完成判断"是不可信的。
你必须从外部定义停止条件——token 耗尽、时间超限、连续 3 次循环、用户主动中断。
Agent 永远不应该有"我自己觉得搞定了"的权力。
这是程序员的本分——给 AI 划边界。
铁律 4:工程师从"写代码"转向"写约束+做评审"
这部分是我看完最扎心的。
Fowler 写:
"随着 Agent 接管越来越多'写代码'的工作,工程师的核心职责会转向'定义约束'和'评审产出'。"
写约束——比"写代码"更难。
你要在系统级别表达"这个不能做""这个必须做""这个做完要停"。
做评审——比"自己写"更累。
Agent 1 小时写的代码,你 10 分钟要判断"对不对""能不能上线""有没有安全风险"。
这要求工程师的能力不是降低,是升级。
铁律 5:警惕"Agent 编排"的组织陷阱
最后一条,讲给团队 leader 听。
Fowler 警告:
"如果你的组织只是'用 Agent 替代人手',你不会变快,你会变乱。"
正确的方式是重塑工作流——
不是"原来 3 个人的活,现在 1 个人 + Agent 干"。
是"原来 3 步流程,现在重新设计成 Agent 主导 + 1 个人 review"。
人没减少,但单位时间产出翻倍。
组织没变快,但流程变清晰了。
这篇文章对中文工程师的真正价值
Fowler 的英文长文,讲的是普适工程原则。
对中文工程师,我翻译成三句话:
- 别再"试 Agent 能做什么"了,开始"工程化 Agent 的失败模式"。
- 写代码还是核心,但写"护栏"和"评审"会变成新核心。
- 不要把 Agent 当魔法,把它当实习生——能给活,但得有人看着。
一个推荐书单
如果你想继续深入,Fowler 这篇文章的 Reference 里有几本必读:
《Designing Data-Intensive Applications》——数据流的护栏怎么设计 《Site Reliability Engineering》——SRE 思维怎么用到 Agent 《Building Secure & Reliable Systems》——安全和可靠性的硬功夫
这三本,中文版都有,别再说没时间读了。
回见。