胡乱编造答案 无法控制业务边界 在高并发下成本失控
检索错 → 改成混合检索 + 重排序 答案不稳定 → 加约束层(policy / guardrail) 成本不可控 → 做缓存 + 分级模型路由 风险输出 → 加拒答和审计链路
什么能上线 什么必须拒绝 什么必须降级 什么必须人为兜底


需求翻译与边界界定: 现实中的业务需求往往充满歧义。工程师必须将模糊的自然语言需求拆解为包含异常处理、边界条件和业务规则的精确技术规格(即规范驱动开发 SDD)。 高质量上下文构建: AI输出的质量直接取决于人类输入的上下文质量。 工程师需要精准判断哪些数据库结构、接口文档和业务规则是必须“喂”给AI的,以避免AI产生“幻觉”或理解偏差。 你不再是编写代码,而是将深度的系统知识转化为机器可执行的规范。


对抗“屎山代码”: 如果没有人类架构师设定明确的模块化边界和接口契约,AI极易生成高度耦合、缺乏抽象、充满隐式依赖的“屎山代码”,导致巨大的隐形技术债。 高阶技术决策: 面临高并发下的性能瓶颈、CAP定理(一致性与可用性)的权衡、或是基于团队现状和预算的技术选型时,AI只能列出优缺点,而无法承担决策后果。 只有人类工程师能结合商业目标和系统历史做出最终取舍。


识别“看似合理的错误”: AI生成代码最危险的地方在于“幻觉”——代码逻辑通顺、能跑通测试,但业务语义完全是错的,或者擅自引入了不存在的恶意依赖包(包幻觉)。工程师必须具备极强的代码审查和根因排查能力,跳出表面逻辑去验证极端边界条件。 承担最终责任: AI可以模拟推理,但无法承担法律、合规和商业后果。 一旦线上发生严重的系统崩溃或数据泄露,人工追踪链路并紧急修复的兜底能力是不可或缺的。


智能任务路由:用模型分级实现成本与质量的最优平衡
对于简单任务,轻量模型足以胜任;
但面对复杂推理、多步骤规划或高度创意性任务,大模型的优势是决定性的。关键在于自动识别任务复杂度,动态分配合适的模型。
工程师需要掌握“模型路由”(简单任务用小模型,复杂推理用大模型)、上下文缓存,并评估哪些问题直接手写比“反复修改提示词”更便宜、更高效。


AI无法在会议中察言观色、无法理解公司内部的政治动态、也无法安抚焦虑的客户或向非技术高管解释技术延期。 将用户痛点转化为技术语言,以及在跨部门团队中建立信任,这些基于人类同理心的软技能,反而成为了AI时代最硬的护城河。


夜雨聆风