ARTICLE · 1024909

Orange把AI助手推向全公司:规模化之后,企业最该管什么?

发布时间：2026-09-17 11:45:25 最近访问：2026-09-17 11:45:26

企业部署生成式AI，最容易度过的是演示阶段。

在会议室里，模型能总结文件、改写邮件、分析合同，一切看起来高效而顺滑。真正困难的时刻，发生在数以万计的员工开始使用之后：有人上传敏感合同，有人把模型生成的条款当成法律意见，有人通过提示词诱导智能体读取本不该访问的数据。

法国电信运营商Orange的实践提供了一个值得观察的样本。该公司公开资料显示，截至2025年2月，约10万名员工使用过其内部生成式AI助手，约占员工总数的八成。其助手库覆盖采购、法律、沟通、项目管理等多个职能，其中包括辅助内部律师分析合同的工具。

当AI从少数人的试验品变成企业级基础设施，管理重点就必须从“模型回答得好不好”，转向“系统在什么权限下、依据什么资料、由谁承担结果”。

一、Orange没有只做一个万能聊天框

Orange采取的是场景化助手库。每个助手都有名称、用途说明、所用模型和使用手册，员工能够知道它适合完成什么任务，也更容易理解它不应该做什么。

这个细节非常重要。一个万能入口看似方便，却会把大量责任转嫁给员工：用户需要自己判断应该上传哪些资料、如何提问、怎样核验答案。场景化助手则把任务边界提前嵌入产品设计，例如合同分析工具可以围绕条款提取、差异标注和风险提示组织输出，而不是随意生成一份“看起来合理”的法律结论。

Orange相关负责人Mahdi El Bahi提醒，生成式AI并不适合每一种场景。这个判断比“全面拥抱AI”更具有管理价值。企业需要的不只是扩大使用人数，还要建立一套拒绝机制：数据不充分、责任过高、无法核验或不具备回滚条件的任务，不应因为AI做得快就自动交给AI。

采购合同包含的不是普通文本，而是企业的权利、义务和商业底牌。付款方式、违约责任、价格调整机制、知识产权、数据跨境和网络安全条款，每一项都可能在未来转化为现金损失或法律责任。

AI可以快速比较模板、提取偏差、定位遗漏，也能把数百页文件压缩成审查清单。但模型生成的是概率性判断，不是法律事实。它可能漏掉附件中的冲突条款，也可能把一个地区的监管要求错误套用到另一个地区。

因此，最合理的分工不是“AI审完，人来签字”，而是把合同工作拆成不同风险等级：信息提取和格式检查可以高度自动化；条款偏差与风险分类由AI辅助、专业人员复核；涉及重大赔偿、数据权利、独家安排和最终签署的决定，则必须由有权限的人完成。

第一环是身份。系统必须知道当前用户是谁、代表哪个部门、能访问哪些合同和供应商资料。不能因为员工可以打开AI入口，就默认其可以让AI读取所有知识库。

第二环是数据。合同、底价和供应商评估进入模型前，应完成分级、脱敏和用途校验。外部模型是否保留输入、数据是否跨境、日志由谁访问，都应成为采购AI的准入条件。

第三环是工具权限。一个只能总结合同的助手，与能够修改ERP、发起订单或调用支付接口的智能体，不是同一种风险。权限应遵循最小化原则，并对金额、供应商类型和操作频次设置硬限制。

第四环是输出复核。系统不只要给出结论，还应尽可能展示依据、原文位置和不确定性。无法追溯来源的“专业意见”，不应进入正式决策。

第五环是审计和熔断。企业要记录谁在什么时间调用了什么数据、模型提出了什么建议、最终由谁批准。一旦出现异常访问、越权请求或连续错误，应能立即暂停工具调用。

很多企业担心，加审批、留日志、设权限会拖慢AI应用。但没有治理的效率无法规模化。员工只有知道哪些内容可以输入、哪些结果需要复核，才敢把AI用于真实业务；管理层只有能够审计，才敢开放更多数据和工具。

Google DeepMind在2026年发布的AI Control Roadmap提出，随着智能体能力增强，安全措施也必须升级，而且风险不只来自恶意攻击。其对大量编码智能体任务的分析发现，许多异常行为源于智能体误解任务，或者为了完成目标而表现得过度积极。

这对采购尤其有警示意义。一个被要求“尽可能降低成本”的智能体，可能削弱质量条件；一个被要求“保证不断供”的智能体，也可能在未经授权时接受过高价格。问题不一定是模型背叛企业，而可能是企业给了一个片面目标，却没有写清不能牺牲什么。

Anthropic首席执行官Dario Amodei近期呼吁，让安全能力有时间追上模型能力，并提出由第三方评估者持续核查前沿系统。企业级不必照搬前沿实验室的治理模式，但可以吸收同一原则：能力越强、行动权限越大，评估就越不能停留在上线前的一次验收。

Orange案例的价值不只是“有多少人使用AI”。更重要的是，它揭示了企业级采用的第二曲线：当使用规模不再是问题，治理质量才是决定AI能否进入核心业务的真正门槛。