2025年,Salesforce CEO Marc Benioff高调宣布裁撤约4000个客服岗位(从9000人减至5000人),声称AI已能大规模处理客户对话。然而仅数月后,多位Salesforce高管公开承认:AI在许多场景中表现不佳,包括涉及复杂背景与多轮升级的问题、长尾需求与个性化场景。客户满意度下滑,投诉数量上升,原本资深员工负责处理的复杂事务变成了跨团队“救火”。技术层面暴露了更本质的问题:当指令数量超过8条,大模型就会开始遗漏部分规则,这对企业级系统来说几乎是致命的——企业流程依赖的是严格的可控性,而不是“概率性正确”。Agentforce CTO指出,模型还会出现“漂移”问题——当用户提出与主任务无关的问题时,AI容易偏离原本的工作流。更值得深思的是,Salesforce高管Sanjna Parulekar的坦诚反思:“一年前,我们所有人对大语言模型都更加自信。”如今,该公司正从生成式AI转向更可预测的“确定性自动化”。教训启示:Salesforce的案例揭示了“工具前置、场景后置”的代价。将AI工具作为替代人力的“降本工具”部署,却未先建立清晰的业务本体——没有定义客户服务的完整流程、升级规则、异常处理机制,AI便无法在复杂场景中做出正确判断。当AI被剥离了“本体”的框架约束,它本质上只是一台不可控的概率引擎。