乐于分享
好东西不私藏

AI编程真正的尽头其实是“控制论”

AI编程真正的尽头其实是“控制论”

1. 程序员,正在从“码农”变成“舵手”

3 名工程师。 5 个月。 1500 个 PR。 100% AI 编写。 100 万行代码。

这不是科幻小说,而是 OpenAI 在 Harness Engineering 实践中交出的真实数据。

更夸张的是:研发效率提升了 90%。

很多人第一次看到这个数字时,本能反应是震惊。但真正值得警惕的,不是 AI 写代码越来越强,而是程序员这个职业,正在发生根本性的“角色迁移”。

过去,程序员像工厂里的熟练工人,一行行敲代码、修 Bug、写接口。

而现在,AI 正在接管“执行层”。 程序员的价值,开始从“亲自实现”,转向“设计系统”。

说得更直接一点:

未来最重要的能力,不再是“会不会写代码”,而是—— 你能不能控制一个自动写代码的系统。

这背后,其实是一门很老的学科:控制论(Cybernetics)。


2. Harness Engineering,本质上是控制论

OpenAI 提出的 Harness Engineering,可以简单理解成一句话:

人类负责掌舵,AI 负责执行。

在这个模式里,人不再亲自写代码,而是:

  • 设计环境
  • 定义目标
  • 建立规则
  • 构建反馈回路
  • 校准 AI 行为

这其实已经不是传统意义上的“编程”了,而更像是在操控一个自动化系统。

控制论里有一个经典闭环:

[设定目标] → [感知偏差] → [施加干预] → [消除偏差]

而 AI 编程,本质上就是在做同一件事。

你给 AI 一个目标。 AI 开始生成代码。 系统检测偏差。 再把偏差反馈回去。 AI 继续修正。

整个过程,本质上就是一个持续“纠偏”的控制系统。


3. AI 编程真正的问题:不是生成,而是“收敛”

很多人误以为,AI 编程最大的难点是“生成能力”。

其实恰恰相反。

今天的大模型,已经足够会“生成”。

真正困难的是:

如何让它稳定地收敛到“正确答案”。

因为 AI 面对的不是一个结果,而是一个巨大的“可能性空间”。

这里有个经典案例,叫“12 球称重问题”。

12 个球里有 1 个异常球。 可能偏轻,也可能偏重。

所以系统初始状态下,一共有 24 种可能。

而天平每次称重,只有 3 种结果:

  • 左边重
  • 右边重
  • 平衡

三次称重,总共能提供的“信息量”是:

3^3 = 27

因为 27 大于 24,所以问题可解。

这背后的本质是:

你的控制能力,必须大于系统复杂度。

AI 编程也是一样。

AI 可以生成无数种代码。 其中绝大多数,都是错的。

程序员真正的工作,就是不断压缩“错误可能性空间”,让系统最终收敛到正确状态。

所以未来的高级工程师,核心能力可能不是“写得快”,而是:

  • 谁更会设计约束
  • 谁更会建立反馈
  • 谁更会控制复杂系统

4. 为什么“规则写得越多”,AI 反而越蠢?

这是很多团队正在踩的大坑。

很多人接入 AI 后,第一反应是:

“我要把所有规范全写进 AGENTS.md。”

结果往往是:

  • Prompt 越来越长
  • 上下文越来越乱
  • AI 越来越跑偏
  • 维护成本越来越高

OpenAI 给出的经验非常反直觉:

不要试图给 AI 一本“说明书”,而是给它一个“目录”。

真正高效的方法是“渐进式披露”。

也就是说:

  • 核心规则文件尽量控制在 100 行以内
  • 它只负责索引
  • 需要时,再动态加载细节规则

因为大模型不是数据库。

上下文窗口是稀缺资源。

你塞进去的信息越多,重点反而越模糊。

所以优秀的 AI 工程,并不是“信息堆叠”,而是:

精准的信息调度。


5. 在 AI 世界里,“没写下来的东西”等于不存在

这是 AI Native 开发里最残酷的一件事。

AI 不懂“默认共识”。

它不知道你团队以前怎么做。 不知道你脑子里的经验。 不知道架构师口头说过什么。

它唯一能看到的,只有代码仓库。

所以未来的软件工程,会出现一个巨大变化:

一切隐性知识,都必须显性化。

包括:

  • 架构原则
  • 模块边界
  • 设计决策
  • 代码规范
  • 业务约束

都必须沉淀成:

  • Markdown
  • 规则文件
  • 可执行计划
  • 自动化校验

因为 AI 的代码生成速度太快了。

如果没有明确约束,错误会像病毒一样指数级扩散。

过去一个新人写歪代码,可能影响一个模块。

现在一个 AI 写歪代码,半天能污染整个仓库。


6. AI 编程最大的危险:系统会“自我繁殖”

这是很多人还没意识到的问题。

AI 最大的风险,并不是“不会写”。

而是:

它会复制错误。

一旦 AI 写出一个烂实现,后续生成时,它会不断参考、复用、扩散这个坏模式。

这其实非常像控制论里的“自繁殖系统”。

比如:

  • 核裂变
  • 癌细胞扩散
  • 病毒传播

共同特点都是:

错误会指数级增长。

所以为什么 AI 时代,架构约束会重新变得极其重要。

过去很多人觉得:

“架构没那么重要,能跑就行。”

但在 AI 时代:

如果没有严格边界,AI 会迅速把系统拖向失控。

因此,未来的高级工程师,必须越来越重视:

  • 分层设计
  • 边界约束
  • 领域建模
  • UML
  • 时序图
  • 用例规约

这些东西过去被嫌“文档味太重”。

但现在,它们反而变成了 AI 最容易理解的“高级语言”。

因为它们本质上是在压缩可能性空间。


7. AI 时代最重要的能力:不是写代码,而是“设计反馈回路”

还有一个越来越明显的问题:

AI 写代码太快了。

人类 Review 根本跟不上。

于是整个系统的瓶颈,从“开发速度”,变成了“验证速度”。

解决方案是什么?

不是增加人力。

而是建立自动反馈系统。

这其实就是控制论中的“反馈回路”。

未来优秀团队,会大量建设“AI 可观测系统”:

第一类:通用传感器

比如:

  • 编译错误
  • 测试结果
  • 安全扫描
  • CI/CD 日志
  • 性能指标

这些负责检测基础问题。

第二类:业务传感器

更关键。

它会把业务规则,转化成 AI 可验证的断言。

比如:

  • 支付流程不能丢单
  • 库存不能为负
  • 风控规则不能绕过

这些才是真正的“业务护城河”。

未来最强的工程团队,不一定是代码写得最快的。

而是:

谁最会建立自动纠偏系统。


8. 程序员的核心价值,正在被重新定义

过去程序员的核心价值是:

“我能把功能实现出来。”

但未来,真正值钱的能力会变成:

  • 定义什么是正确
  • 判断哪里偏了
  • 设计约束系统
  • 建立反馈机制
  • 控制复杂系统稳定运行

换句话说:

程序员正在从“执行者”,变成“控制者”。

你不再亲自划船。

你开始设计发动机、导航系统和自动驾驶仪。

这也是为什么:

未来最危险的人,不是最会写代码的人。

而是:

最会驾驭 AI 系统的人。


9. 结语:真正被淘汰的,不是程序员,而是“手工编码思维”

很多人还在争论:

“AI 会不会取代程序员?”

这个问题可能从一开始就问错了。

真正正在被淘汰的,不是程序员。

而是:

“手工编码”这件事本身。

就像蒸汽机出现后,被淘汰的不是“运输行业”,而是“人力划桨”。

软件工程并没有消失。

它只是正在从“体力劳动”,升级为“系统控制”。

所以未来最重要的问题,不是:

“你会不会写代码?”

而是:

当 AI 成为执行层后,你还能不能控制整个系统朝正确方向演化?

这,才是 AI 编程时代真正的分水岭。

参考链接:一文讲透:Harness Engineering即控制论!