AI 时代的软件工程:开发更快、风险更高,问责机制全面升级

甫瀚咨询Protiviti

软件组织长期以来都在平衡两个看似对立的优先级：速度与稳定性。过去的权衡非常清晰——要么加速前进并接受技术债，要么减速导致错失市场先机。而现在，生成式 AI 彻底改变了这个游戏规则：它在极大压缩软件开发周期的同时，并没有减轻应承担的责任——在很多场景下，责任边界反而扩大。AI 对软件工程的影响，远不止生产力提升那么简单，它正在改变软件的设计、治理与可持续性。

AI 工具对软件架构的影响出现得最早，也最为显著。它正在模糊“编写代码”与“设计系统”之间的传统界限。团队现在可以在几分钟内生成脚手架、微服务以及多种集成代码。这种加速能力很强，但同时也带来了新的风险：代码规模可以快速扩大，而底层模块化却可能随之弱化。依赖关系显著增加，非正式接口逐渐增多，应用行为开始依赖一些从未被视为一级设计要素的因素——例如数据管道、提示模式以及模型版本更新。AI 确实让开发速度加快，但也引入了大量新的隐性依赖。除非刻意强化架构规范，否则这些依赖会显著增加维护与扩展的难度。

AI 辅助环境下，技术债呈现出全新形态。传统债务通常显而易见：赶工留下的烂尾、过时的库、脆弱的服务。而 AI 生成的债务往往是安静积累的——代码中可能隐藏着微妙的Bug、脆弱的假设、不安全的写法，这些在走马观花的代码审计中很容易被当作“能跑就行”而放过。初期看似正常运行，长期却付出显著代价：行为趋于不可预测、事件数量增加、大量非计划的重构工作。在 AI 加速的环境中，技术债往往不会提前发出明显警报，这恰恰让它变得更加危险。

治理构成了另一个重大挑战。即使拥有成熟软件开发生命周期（SDLC）流程的组织，也容易遭遇“影子 AI”问题——开发者因为图方便、追求速度而私自使用未经审批的 AI 工具。风险非常具体：知识产权泄露、数据隐私违规、未经审查的代码直接进入生产环境。当问题暴露时，高层往往发现自己无法回答最基本的问题：

• 到底用了哪些 AI 工具？

• 向外部模型输入了哪些数据？

• 哪些输出最终进入了生产环境？

当这些问题没有清晰答案时，治理事实上处于缺失状态。

随着监管压力和客户期望日益严格，供应商需要在尽调、采购评估、审计中解释自己的 AI 使用实践。合规团队要求更严格的管控，工程团队则追求更快交付——这种拉锯正是治理失调的典型表现。没有统一的运营模式，组织很容易落入特批、紧急放行与事后补救的循环，既挫伤团队士气，也拖慢真正的现代化进程。

最有效的推进路径既不是完全中心化，也不是不受约束的完全自治。一种混合方式——在保持团队层面自治的同时标准化护栏——已被证明更具可持续性。这始于制定一份明确的许可工具清单和批准使用场景，并搭配简单的访问控制和日志记录。需要有清晰的指导，明确规定哪些数据可以、哪些数据不可以与外部模型共享，同时说明对提示词和输出内容的存储要求。当工作流程被设计成让安全行为比冒险行为更融入日常时，采用率就会提升，同时又不牺牲控制力。

质量保障也必须同步进化。为慢节奏、手工编码时代设计的审阅流程，在代码爆发式生成的环境中必然失效。AI 产出的代码应当默认视为“不可信”。自动化扫描不安全代码模式、敏感凭证泄露以及开源许可证合规性，已经成为现代质量保障中不可或缺的一环。测试覆盖范围需扩大到人类难以预见的边缘场景。可以利用 AI 分析日志、模拟异常场景，但最终决策责任始终留在人。

架构则需要主动现代化。为了对抗 AI 带来的复杂度膨胀，组织必须刻意强化：

• 模块化设计与清晰的接口契约

• 将模型生命周期与核心业务逻辑解耦

• 对模型、提示词进行版本管理，建立回滚路径

• 部署漂移检测与持续监控

这些工作或许不够吸引人，但它们决定了组织能否在快速迭代的同时，保持系统长期的可扩展性、可维护性和战略转向能力。

AI 也在重塑人才画像。随着重复性工作被自动化，真正稀缺的能力转向：系统性思考、工程判断力、跨领域融会贯通。AI 并没有取代开发者，而是重新定义了“优秀工程师”的含义。顶尖团队越来越需要这样的工程师：

• 同时精通测试、可观测性、事件响应

• 能够把技术决策与业务成果紧密连接

• 掌握安全提示工程与模型基本原理

• 简洁的设计、严谨的审查和清晰的责任分配

除此之外，AI 引入了常常被忽视的运营副作用。虽然 AI 可以整合事件数据并提升韧性，但它也可能造成上下文坍塌——将那些原本从未打算交汇的领域的信息拉到一起。例如，如果访问控制过于宽松，敏感的HR或财务数据就可能无意中出现在工程文档中。缓解措施很简单但需要纪律性：限制数据源、限制模型的可见范围，并将生成的文档视为需要人工审阅的草稿。

AI 对软件工程的影响是深刻的，它改变了软件开发的经济模型。单纯的速度已不再是可持续的优势。真正成功的组织，将是那些能够将 AI 采用与架构规范、现代质量保障以及清晰治理结合起来的组织——确保更快的开发转化为持久、可扩展的结果，而非更大的潜在风险。

面对 AI 带来的挑战和机遇，我们可为企业提供以下四类专业服务，助您高效完成 AI 治理与合规落地。

张国昌

董事总经理，中国区负责人及上海分公司负责人

David.Cheung@protiviti.com.cn

崔楠

董事总经理，中国区联合负责人及北京分公司负责人

Tracy.Cui@protiviti.com.cn

麦欣茵

董事总经理，深圳分公司负责人

Christina.Mai@protiviti.com.cn

唐尧

董事总经理，成都分公司负责人

Daniel.Tang@protiviti.com.cn

转载声明：本文须原文转载，不得修改，且须标注转载来源：甫瀚咨询Protiviti。如有编辑需求，请联系我们。