
随着以大模型为代表的人工智能技术迅猛发展,AI写作、AI对话、AI合成等生成式人工智能正逐步融入各类办公场景,显著提升了工作效率。尤其是AI写作工具,因其操作便捷、响应迅速,深受广大办公人员欢迎。只需输入关键词,即可一键生成内容详实的文章,大幅节省时间与精力。
然而,在享受人工智能带来的便利时,我们也不应忽视其潜在的信息安全风险。特别是在涉及国家秘密、工作秘密及敏感信息的场景中,若使用不当,极易引发严重泄密后果。
案例警示:AI工具使用不当导致泄密
案例一:科研人员违规使用AI写作工具致密级信息外泄
某科研机构研究人员小李在撰写一份重要研究报告时,为图省事,擅自使用某AI写作应用,将项目中的核心数据与实验成果作为训练素材上传。结果,该研究领域的关键信息被AI模型学习并存储,最终造成敏感信息外泄。事后,小李被依法依规严肃处理。
案例二:涉密人员使用AI生成工具泄露内部文件
某涉密单位工作人员李某在起草一份内部方案时,听同事推荐AI写作工具,声称只需输入主题和要求即可自动生成文稿。出于好奇,李某在手机上下载了一款AI写作软件,并将部分内容输入该工具,试图“优化”文稿。结果,该涉密信息被上传至云端并参与模型训练,造成部分敏感内容泄露,给单位带来严重安全隐患。
风险分析:AI工具的潜在泄密隐患
生成式人工智能高度依赖互联网、大数据和云计算平台,其运行过程中涉及数据的获取、处理、存储、运算与传输等多个环节,每一个环节都可能成为信息泄露的突破口。
即便是片段性、局部性的涉密内容,也可能被AI系统进行多维度分析、关联整合,从而被恶意利用。更令人担忧的是,AI模型在训练过程中会将输入数据作为学习样本,一旦涉及国家秘密,极有可能造成不可逆的泄密后果。
法律与制度要求:AI使用必须依法依规
《中华人民共和国保守国家秘密法》第三十一条明确规定,任何组织和个人不得在非涉密信息系统或非涉密设备中处理国家秘密信息。
《网络数据安全管理条例》第十九条也要求,提供生成式人工智能服务的数据处理者,应加强对训练数据及其处理活动的安全管理,防范网络数据安全风险。
管控建议:明确AI工具使用边界,筑牢保密防线
针对生成式人工智能在办公场景中的应用,机关单位应明确使用边界,划清“红线”,坚持“上网不涉密、涉密不上网”的基本原则。
对工作人员的要求:
·严禁使用AI工具处理国家秘密、工作秘密及不宜公开的敏感信息;
·增强保密意识,严格遵守单位信息安全管理制度;
·不得擅自将内部信息上传至公共AI平台。
对单位管理的要求:
健全管理制度:完善公文审核机制,加强对AI生成内容的审核与监管;
加强教育培训:开展系统性AI使用培训与保密教育,提升员工风险识别与防范能力;
强化技术防护:对政务数据实施全生命周期加密管理,建立严格的访问控制与身份认证机制;
完善追溯机制:确保AI工具的输入、处理、输出全过程可追溯,便于监督与追责。
案例来源于:中国保密在线,转载至贵阳保密

夜雨聆风