ARTICLE · 1309307
AI致幻效应之一,自搓软件就是香
AI致幻效应之一,自搓软件就是香现在有些小公司已经不满足用AI做做周报、知识库之类的周边应用，开始命令麾下的勇士手搓erp、mes这样的软件，做出几个页面便开始炫耀，竟然还有不少人相信。 对于我来讲，这就像是看着他们开一辆3D打印的汽车上马路。 软件界向来的谬误之一，就是以为搞懂了业务，就能开发好软件。这个谬误随着互联网、AI的浮躁一步一步长大。有点像现在推销汽车，卖点从加速、操控、底盘、安全，转为了沙发、彩电、冰箱、大床。 至于这到底是不是“本”和“末”倒置的谬误，仁者见仁智者见智，无须定要争论出个子丑寅卯。比如deepseek一年要崩好多次，大家依然觉得它好用，也没带来任何损失，那就行。 
幻觉问题不是出在3D打印或者AI技术，而是指挥它们的人。 这一类公司的特点是觉得erp、mes这样的软件贵，甚至租一个云erp、云mes都觉得贵，于是让员工自己出token手搓一套系统。 自己DIY出来的东西有特殊情绪价值加持，用着会格外满意。这个时候也不管所有的数据不但会传给ai厂商、云服务商，而且后面还要给他们缴年费。 他们觉得操作汽车就那么几个步骤，操作软件也就那么几个按键，误以为外壳有模有样、业务流程可以闭环，就代表一个产品完整可用。 却不知道他们只摸到了皮毛，尚未触及核心逻辑的冰山一角：汽车内部为什么需要上万个零部件拼装，汽车后面怎么维修、保养；软件为什么需要分层次分模块，软件后面怎么扩展、维护。 哪些是需要拆分、拼接的，哪些是需要存储、备份的，哪些是需要对齐、追溯的，哪些业务是不可以同时操作的，哪些要预防暴力检测、侵入检测的。。。这些都不是业务问题，但都是影响使用的核心问题。 要知道软件工程里的二八定律，业务部分通常只占20%。 很多人其实完全不知道有这回事，只向AI许愿实现业务需求，AI当然也就只按照你的愿望来实现业务逻辑，其它问题就随缘。无知者无畏，那就极容易酿成悲剧。 假定业务流程已经完美跑通，我简单再举几个软件工程方面的例子看看有没有被考虑到： 1，数据层面。谁来做主数据治理？可能很多人连这个名词都没听说过。 物料的参数标准谁来确定？ 如何与其它系统对接？ 历史数据如何导入？ 录入数据口径不一致如何解决？ 如何避免重复录入？ 异常数据如何判断，如何溯源？ 等等。 2，安全层面。谁来做权限管理、安全防护以及合规审计？ 哪些数据是只能领导看的，哪些只能财务看？ 如何防止恶意篡改、系统漏洞、黑客侵入？ 用户的操作记录要保存吗，保存多久？ 误删除数据如何恢复？ 等等。 3，运维层面。谁来做系统运维？ 系统如果升级，涉及增加、删除、修改表单数据项，那么如何兼容以前的历史表单记录？ 同一个表单能不能同时由不同的人做增加、删除、查询操作，出现死锁怎么办？ 系统故障后多久可以恢复？怎么恢复？ 怎么做数据备份，多久备份一次？ 等等。 或许AI带来的最危险的幻觉，就是很多人对原本不了解的其他行业，失去了敬畏。
