乐于分享
好东西不私藏

AI | 我试了试"一句话生成软件",发现了AI的盲区

AI | 我试了试"一句话生成软件",发现了AI的盲区

0、概述

    本文探讨AI编程(Vibe Coding)面临的两大核心挑战:一是需求细化问题,AI只能处理”共识部分”,对”非共识”的独特需求无能为力;二是复杂工程问题,软件工程本质是人与人的协作,AI难以应对涌现性与多目标权衡。

1、前言

    在古法编程时代,假设我是一个项目经理。某天,我收到一份用户需求,当我小心翼翼地打开文档,上面却只写着”做一个待办事项管理软件“这几个字。

    面对这份极简的需求,我开始回忆用户的使用习惯,并结合自己的经验进行思考。随后,我找来几个小伙伴——分别负责UI设计、系统开发和系统测试——组成了一个团队。

    在项目实施过程中,程序员需要鼓励,团队需要定期开会沟通,开发出来的中间成果也要及时给用户展示和确认。

    AI编程来了,如何解决下面两个问题:

  1.     1. 需求细化: 使用 AI进行编程,如何通过模糊的需求信息,实现精细的软件功能?
  2.     2. 复杂工程问题: 软件工程本质上是一项复杂工程,如何通过 AI 来实现这种复杂工程?

2、需求细化

2.1 概述

    我用一句话生成了一个软件。按照信息守恒原理,信息不会凭空增加。那么,在这个过程中,AI 究竟往里面“加”了什么信息?这些被加入的信息,又是否真实?。是无中生有,还是道生一,一生二,二生三,三生万物。

2.3 加进去了什么信息

    在还原“做一个待办事项管理软件”这个需求的时候,包含两部分内容,一部分是共识的内容,还有一部分是非共识的内容

    共识部分: 为什么 AI 能处理共识?因为在 AI 的模型(先验知识)与你的意图之间,存在巨大的互信息。我们吐出一个词,它就能预测你后面的 100 步。

    非共识部分: 当我们想要“定制化功能”时,这部分逻辑在 AI 的先验知识里是不存在的。

    要消除非共识领域的不确定性,你必须在输入端提供等量的有效信息。

2.3 增加的信息是否真实

    当我们给出一句话,AI 实际上是在玩一场拼图游戏:我们给了它一小块核心拼图,它从自己的仓库里找出了成千上万块看起来长得像、能拼上的边缘拼图,最后拼出了一个我们想要的轮廓。这种增加的信息,与其说是真相,不如说是可能性

    AI 尝试根据这一句话生成出整个程序,就像把一张 10KB 的缩略图强行拉大到 4K 分辨率。由于丢失的信息无法凭空产生,AI 只能用其语料库里的“平均像素”去填补,产出的结果自然就是模糊、平庸且缺乏细节的“马赛克”。

3、复杂工程问题

3.1 概念

1)简单/繁杂( 有序系统  )

    这里把简单工程和繁杂工程归位一类有序系统 ,繁杂工程通常指任务量巨大、技术参数繁多、步骤琐碎,但逻辑关系相对确定的工程。

    航天飞机被视为人类历史上最繁杂的单体机器。它由超过 250 万个零件组成,拥有数千公里的电线和密密麻麻的阀门。

    尽管零件极多,但每一个零件的功能都是确定的。如果你拆解一台航天飞机并重新组装,只要图纸正确、工艺达标,它的运行逻辑是可预测的。

2)复杂系统

    复杂工程是指系统要素之间存在高耦合、非线性关系,且环境动态变化,具有涌现性(Emergence)特征的工程。

    造航天飞机的过程是复杂系统,因为制造过程不再仅仅是物理零件的堆砌,它是一个包含人、技术、政策、供应链和不可预见性的动态生态系统。 

3.2 软件工程的特点

    软件工程的本质:它是一门管理复杂性的社会技术学科。代码是表象,人与人的协作、 决策、持续演化的适应才是内核。

3.3 AI在软件工程中的表现

一、 有序工程:AI 的“主场”

    有序工程是指逻辑路径清晰、因果关系明确、具有高度重复性或模式化的任务。在这一领域,AI 的表现接近甚至超过资深工程师。

二、 复杂工程:AI 的“滑铁卢”

    复杂工程涉及涌现性(Emergence)、非线性因果和多目标权衡。当系统规模扩大、依赖项增多时,AI 的局限性开始显现。

4、总结

4.1 AI厉害在哪

  1.     1. 共识碾压:AI学的都是人类最好的知识,它生成的”标准答案”往往比大多数程序员写得好
  2.     2. 效率惊人:同一个需求,AI十分钟写的代码,新手搞一下午未必赶得上
  3.     3. 经验平权:以前要踩很多坑才懂的道理,AI直接就能告诉你

4.2 AI的局限

  1.     1. 不会创新:AI只会排列组合已有的东西,不会真的”创造”。所有人都用AI?那AI就是人类知识的”平均数”,永远别想”超越”
  2.     2. 搞不定非共识:你的独特需求、对业务的理解、对用户的洞察——这些AI学不会
  3.     3. 做不了复杂协作:软件工程是人和人的协作、博弈、权衡,AI只能处理”有标准答案”的问题
本站文章均为手工撰写未经允许谢绝转载:夜雨聆风 » AI | 我试了试"一句话生成软件",发现了AI的盲区

猜你喜欢

  • 暂无文章