AI助手敏感数据安全方案 |第三课

课程来源：Handling Sensitive Data with Cloud and Local AI - AI assistants: Secure options for sensitive data 讲师：Ronny

笔记整理自 LinkedIn Learning 课程。

一句话总结：通过合理配置AI助手、实施数据匿名化、使用LLM代理层，可以有效降低使用ChatGPT、Claude等AI服务时的敏感数据泄露风险。

第一部分：AI即服务的数据隐私风险

当使用ChatGPT、OpenAI API、Anthropic Cloud、Microsoft Copilot、Google Gemini等AI工具时，数据隐私面临两个主要挑战：通过API或助手向第三方暴露数据，以及模型可能使用用户数据改进自身。

为应对这些风险，需要采取三方面措施：配置工具以减少数据暴露、向用户或相关方透明说明数据使用情况、建立组织层面的数据安全策略。这些措施共同构成了保护敏感信息的基础防线。

核心风险提示：使用任何第三方AI服务都意味着您的数据会离开组织边界，即使服务商承诺不存储数据，也无法完全排除在传输和处理过程中的安全风险。

第二部分：配置AI助手实现最大数据安全

通过合理配置AI助手的隐私设置，可以显著降低数据泄露风险。以下是主流AI工具的关键配置建议：

ChatGPT配置建议

Claude配置建议

1. Help improve Cloud（帮助改进Claude）：建议关闭，防止数据被用于模型训练

2. Location metadata（位置元数据）：根据需求决定是否分享，一般建议关闭

3. 隐私政策审查：定期查看Anthropic的隐私政策，确保符合工作需求

核心建议

：想要更多隐私就别用免费工具。付费服务通常提供更多隐私功能，如企业版API通常包含更严格的数据处理协议。

第三部分：数据匿名化实现安全AI交互

什么是匿名化？

数据匿名化是用占位符或匿名数据替换个人身份信息的技术手段。这是保护个人数据的有效方法，特别适用于与第三方AI服务交互的场景。

适用场景

• 保护训练数据：在模型训练阶段对敏感数据进行匿名化处理

• 推理阶段保护：发送请求给第三方API前对提示词进行匿名化

实用工具 - Presidio

Presidio Analyzer是行业常用的匿名化工具，由Microsoft开发并开源。它能够识别多种类型的个人身份信息（PII），如姓名、电话号码、邮箱地址、身份证号等。

使用前安全建议：

• 推荐用Snyk等工具检查Presidio包的安全性

• 在生产环境部署前进行充分的测试验证

注意事项

• 匿名化限制：匿名化对个人数据保护有效，但对知识产权保护效果有限。代码、商业机密等非个人身份信息仍需通过其他方式保护。

• 功能权衡：匿名化可能限制系统功能，需要根据具体业务需求权衡安全性与可用性

• 生产环境测试：在生产环境部署匿名化方案前需进行严格测试，确保不影响正常业务流程

• 去匿名化安全：去匿名化过程本身也需要安全保护，防止映射表泄露

第四部分：使用liteLLM实现LLM代理

什么是LLM代理？

LLM代理是位于语言模型和用户/团队成员之间的软件层，作为中间件管理和控制对AI服务的访问。

代理的优势

• 日志记录：监控通过代理的所有数据交互，提供完整的审计追踪

• 成本控制：设置预算和用量限制，避免意外费用

• 细粒度访问控制：控制谁可以访问什么模型、什么功能

• 统一接口：便于在不同LLM之间切换，降低集成复杂度

• 集中管理：统一管理用户、团队、组织的AI服务使用

liteLLM工具介绍

liteLLM提供开源工具集和企业版，支持Docker部署，主要功能包括：

• 密钥管理：集中管理多个AI服务的API密钥

• 模型管理：统一管理不同供应商的模型访问

• 预算控制：设置用量限制和费用预警

• 日志记录：记录所有请求和响应，便于审计

• 使用统计：提供详细的使用量分析和报告

安全优势

安全最佳实践：通过代理层与AI服务通信比直接调用API更安全，支持本地模型和外部API的统一管控，是组织级AI安全架构的核心组件。

liteLLM作为代理层提供的安全优势体现在三个方面：

• 集中化的密钥管理避免了API密钥分散存储的风险

• 统一的访问控制确保了只有授权用户才能访问特定AI服务

• 完整的审计日志为安全事件调查提供了必要的数据支持。