企业内部部署生成式人工智能工具的前置环节——服务体系搭建阶段的合规风险排查

白泽实务 · 人工智能、数据与法律科技 · 第02期

企业内部部署生成式人工智能工具前的数据、权限与制度审查

梁慧熙、唐美玲、刘瑞｜白泽法智律师团队

企业将生成式人工智能用于知识问答、合同检索或代码辅助时，常把采购评估集中在模型能力、部署位置和价格上。工具能否接触客户资料、员工档案和内部报价，却未必得到同等审查。

当前，人工智能场景应用尚处于发展初期，许多企业倾向于投入全部资源以实现快速转型，降低成本并提高收益。在这个过程中，企业可能未能清晰认识到合规与不合规的边界，以及不合规操作可能引发的严重后果，这无疑给企业的长远发展埋下了重大隐患。

因此，笔者建议企业在引入生成式AI工具前，必须进行合规性评估，识别潜在的风险点，例如数据隐私和安全问题。需要根据实际的数据流，逐一核对处理目的、资料范围、访问权限和供应商的行为。毕竟，仅凭本地部署或不用于训练的承诺，不足以确保整个使用过程合规。

01  内部使用的判断取决于实际服务对象

《生成式人工智能服务管理暂行办法》第二条区分向境内公众提供服务与未向境内公众提供服务的研发应用活动。企业纯内部应用，应依实际服务对象判断该办法是否适用，不能把是否收费、是否有网页入口或是否使用开源模型作为唯一标准。

员工使用的内网问答工具与向客户开放的客服入口，其服务范围可能不同。原先仅供员工测试的系统，后来开放给经销商、用户或不特定访问者时，应重新评估，不能沿用最初的内部项目结论。对外服务涉及的备案、评估或许可问题，也不应被写成所有内部工具一律需要办理。

即使某项内部应用不适用该暂行办法，也不意味着免除个人信息、数据安全、商业秘密及合同保密义务。审查意见应当分别回答适用何种规则和实际采取何种措施，避免将单项适用范围判断扩大为全面合规结论。

02  资料合法持有不等于可以直接接入模型

上线前宜确定具体场景及必要资料，而不是把企业共享盘整体接入。客户合同可能受用途或披露限制，员工档案可能涉及敏感个人信息，技术文档可能包含第三方授权内容。资料来源、原取得目的和拟处理方式，需要逐类核对。

知识库检索、模型微调、对话日志保存和供应商改进模型，是不同处理活动。对一项业务取得的授权，不能未经核查就扩展为其他用途。若拟处理个人信息，应确认合法处理依据、必要范围和相关告知义务；涉及敏感个人信息、委托处理或向境外提供等情形，还需判断相应特别要求。

测试阶段可以优先使用虚构样本、合法公开且允许使用的资料，或者经过适当处理的低敏数据。去掉姓名不当然实现匿名化；若能与客户编号、岗位、交易记录等重新关联，仍可能属于个人信息。脱敏措施也不能替代对原始处理活动合法性的审查。

03  检索与输出权限应跟随原资料权限

企业原有权限往往以文件夹或业务系统划分。资料进入知识库后，如果系统只判断能否登录，未在检索时核查具体文档权限，就可能让普通员工通过问答取得管理层文件、其他部门报价或人事信息。

上线测试应覆盖不同岗位和跨部门查询。测试内容不能只看回答是否准确，还应核查答案所引用资料是否属于该账户可访问范围、导出功能是否扩大访问、历史会话是否继承他人权限。对权限变更、离职账户、共享链接和缓存内容，也应设计清理与复测措施。

建议先在少量低敏资料和明确用户范围内试用，验证权限和日志后再扩展。这属于风险控制建议，不是法律规定的统一适用程序。技术上无法执行原资料权限时，应缩小接入范围，不能只用员工承诺不查看代替系统控制。

04  供应商合同应与实际处理行为对应

本地部署仍可能存在远程运维、调用外部接口、遥测、日志回传或第三方插件。企业应取得能够说明实际数据流的资料，确认提示词、检索片段、附件、输出和日志分别存在哪里、保存多久、哪些主体可以接触。

如构成委托处理个人信息，应依《个人信息保护法》第二十一条约定处理目的、期限、方式、信息种类、保护措施和双方义务，并落实监督要求。供应商超出委托目的自行使用数据时，其法律关系和责任可能发生变化，不能只依据合同中的受托人标签判断。

合同宜对模型训练使用、分包、远程访问、事件通知、协助核查、退出后返还删除及备份处理作出可执行约定。若存在向境外传输或境外远程访问，应先核实数据种类、访问能力和传输方式，再判断出境规则及适用条件，不能因服务器位于境内就直接排除出境风险。

05  内部制度需要说明禁止事项与审核责任

员工使用规则应明确可用工具、准许输入的资料、不得输入的内容、异常反馈和责任分工。对外发送合同意见、技术承诺、客户回复等重要内容，应设置与用途相适应的人工核对，不能将模型生成文本直接视为公司已经审定的结论。

制度应与实际工作条件一致。企业若要求员工不得上传客户资料，却只提供必须上传完整文件才能工作的工具，执行中很容易出现绕开规则的操作。业务、信息技术和法务应共同确认替代办法，例如限定资料字段、采用受控知识库或取消不必要的外部插件。

涉及劳动者切身利益的制度制定、修改及处分依据，还应结合《劳动合同法》第四条等规定审查相应程序与公示告知。并非所有技术说明都适用同一程序，但拟作为纪律处分依据的规则，需要特别注意合法性、明确性和证据保存。

06  上线决定应附带可以核验的使用条件

审查结束时，宜明确本次允许的场景、资料、用户、供应商和功能版本，并记录未解决的问题。存在权限穿透、数据用途不明或关键合同缺口的，应先补齐措施或缩小范围；不宜将附条件结论简化为法务已批准上线。

上线后更换模型、增加插件、扩大使用对象或引入新数据，应重新核查相关变化。系统异常输出受限信息时，应停止相关访问、保存必要日志并排查影响；涉及个人信息安全事件的，依法判断补救、报告与通知义务。

企业可以将资料清单、权限测试、供应商确认、适用评估和最终批准放在同一项目档案中。并非每个工具都需要一套庞大文件，但每一项关键判断都应有对应事实和负责人员，便于后续复查。

结语

内部部署是否可行，应落实到谁能使用、使用什么资料、资料流向哪里以及结果由谁负责。企业把这几项问题查清，再选择适当的部署与管理措施，才能使技术采购决定与实际法律责任相匹配。

      主要依据及延伸阅读

1. 《生成式人工智能服务管理暂行办法》第二条（2023年8月15日起施行）｜官方原文

2. 《中华人民共和国个人信息保护法》第六条、第十三条、第二十一条、第五十一条、第五十五条至第五十七条｜官方原文

3. 《中华人民共和国劳动合同法》第四条（制度程序按具体事项判断）｜官方原文

      免责声明：本文为一般性法律信息分享，不构成对任何具体事项的法律意见。文中建议应结合合同文本、事实证据及适用规则判断，不保证特定处理结果。未经授权，请勿将本文用于具体交易或争议的最终决策。