夜雨聆风今天听了一个阿里关于“软件黑灯工厂”的讲座。简单来说，未来的软件开发可能像生产汽车一样：输入一个需求，AI自动完成需求分析、架构设计、代码开发、测试，最后交付一个完整的软件。
听起来非常震撼。但是听完之后，我一直在思考一个问题：软件真的适合像汽车一样，变成黑灯工厂吗？
我的答案是：方向可能是对的，但是难度远远超过制造业。
为什么？因为制造业生产的是确定性的东西。汽车工厂里面，一个轮胎是什么规格，一个零件安装在哪里，生产流程是什么，这些都是提前定义好的。机器人只需要按照固定流程执行。
但是软件不一样。软件开发最大的难点，其实一直不是写代码，而是理解人到底想要什么。
比如老板说：“我们优化一下订单系统。”这句话到底是什么意思？可能是查询速度慢，可能是用户操作流程复杂，可能是客户投诉，也可能是业务模式发生变化。同一句话，最后可能产生完全不同的软件。
所以软件真正的原材料，不是代码，而是人的需求和想法。但是人的想法，本身就是高度不确定的。
现在很多人希望通过多Agent实现软件工厂。一个AI负责需求分析，一个AI负责架构设计，一个AI负责代码开发，一个AI负责测试。看起来像组建了一支AI研发团队。
但是这里有一个问题：如果第一个Agent理解错了怎么办？后面的Agent可能不是纠正错误，而是继续放大这个错误。
因为现在的大模型依然存在很多问题：上下文限制、幻觉、理解偏差。最关键的是，它不知道自己什么时候错。这其实是我认为AI软件工程最大的挑战。
现在很多Agent系统，其实是在解决一个问题：如何让AI更加自主。但是未来更重要的问题可能是：如何让AI更加可控。
以前，人向AI提问，AI给出结果，人再判断是否继续。现在，很多Agent系统希望变成：人提出目标，AI自己规划，AI自己调用工具，AI自己决定下一步。但是底层的问题并没有消失。AI依然可能理解错误，也依然可能选择错误路径。
我觉得未来AI软件开发的关键，不是让AI无限自由，而是让AI在规则内自由。我们需要告诉AI：什么可以做，什么不能做，哪些操作必须人工确认，哪些风险必须被限制。
就像管理一个员工，能力很重要，但是边界同样重要。所以我不太相信未来很快会出现“一句话生成一个复杂商业系统”。因为软件和汽车最大的区别是：汽车的问题主要是制造问题，而软件的问题，很大一部分是理解问题。
我更倾向于未来的软件开发模式会变成：一个工程师管理一套AI生产系统。AI负责大量重复性的工作，比如代码生成、测试生成、资料整理、问题分析。而人负责定义目标、判断方向、控制风险、承担最终决策。
我认为未来真正的竞争，可能不是谁拥有更多Agent。而是谁能够让Agent稳定地收敛到正确结果。因为AI时代最大的挑战，不是让AI做更多事情，而是让AI在复杂、不确定的软件世界里，持续做对事情。