国家安全微课堂(一)丨案例解读:AI工具的泄密“暗门”

人工智能时代，开源AI工具在带来便捷的同时，也催生了新型泄密风险。某高校科研人员小赵为快速整理一份内部敏感项目报告，使用了某款免费开源的AI大模型工具，将报告中的部分关键数据和研究思路输入该工具，要求其辅助生成分析图表和文字表述。

由于该工具默认开启了公网访问功能，且小赵未设置任何访问密码或权限限制，导致其上传的敏感数据被境外IP非法访问和批量下载。事后调查发现，该AI工具的开发者拥有后台查看所有用户数据的最高权限，小赵在注册使用时也未仔细阅读隐私条款，直接勾选了“同意数据用于模型训练”的选项，使得敏感资料被模型存储并可能用于后续训练，进一步扩大了泄露风险。

【第二十六条】：禁止非法复制、记录、存储国家秘密。禁止在互联网及其他公共信息网络或者未采取保密措施的有线和无线通信中传递国家秘密。

【第二十七条】：报刊、图书、音像制品、电子出版物、互联网、移动通信等公共信息媒体，不得泄露国家秘密。

在AI技术日益普及的背景下，数据安全风险呈现出隐蔽化、技术化的新特点。同学们在学习和工作中使用AI工具时，需提升数据安全意识，在使用过程中做到“数据不随意投喂”，避免向AI上传个人涉密信息。一旦发现存在信息泄露风险，应立即停止相关操作，并及时向有关部门报告。只有坚持规范使用技术工具，守住信息安全底线，才能真正实现”技术赋能”而非”技术失控”，筑牢国家安全“防火墙”。

案例来源：https://mp.weixin.qq.com/s/uiTurGzH6lrgV4hQMrz7CQ