网安小课堂⑦ | 警惕!AI助手的“阴暗面”!

“深度伪造（Deepfake）”技术的本质，是依托深度学习算法对图片、音频和视频进行高保真的模拟与篡改。在合法合规的前提下，这项技术能为影视、游戏和广告行业创造逼真的虚拟场景，极大地丰富大众的娱乐体验。但技术一旦脱缰，便会成为危害社会的利器。国家安全机关在工作中敏锐地发现，已有境外反华敌对势力盯上了这一技术漏洞。他们利用深度伪造技术炮制出极其逼真的虚假视频，企图向境内大肆传播。这种“有图有真相”的造假方式，极易误导公众舆论、制造社会恐慌，从而在无形中对我国家安全构成实质性威胁。

生成式AI之所以展现出惊人的学习与创作能力，完全依赖于海量数据的“喂养”。这就决定了它在与用户交互的过程中，不可避免地会收集、分析甚至存储用户输入的敏感信息。此前就有公开报道指出，某境外AI模型因开源库发生故障，导致部分用户意外看到了其他活跃用户的聊天记录标题、姓名甚至支付地址等极度隐私的信息。试想一下，如果这些核心数据落入境外间谍情报机关手中，他们完全可以借此顺藤摸瓜，对关键岗位人员进行精准画像，进而实施拉拢策反与渗透破坏，埋下极大的国家安全雷区。

AI算法的输出逻辑并非绝对中立，它深受训练数据的影响。如果有人在背后暗箱操作，人为向模型导入带有偏见的数据或进行算法重构，AI就会沦为输出极端意识形态的“传声筒”。特别是在一些社会热点事件刚爆发、真相尚不明朗、公众情绪极易被点燃的敏感时期，境外势力最喜欢操纵大量水军账号，利用AI批量生成带有强烈情绪煽动性的谣言或虚假新闻。他们妄图通过挑起性别对立、劳资纠纷等敏感话题，对我国进行污蔑抹黑与渗透破坏，进而撕裂社会共识，破坏社会的稳定大局。

面对AI技术发展带来的新机遇与新挑战，全社会必须前瞻研判风险，共同筑牢维护国家安全的人民防线：

首先，树立法治思维，守住法律底线。 近年来，我国已陆续出台《生成式人工智能服务管理暂行办法》等部门规章，并发布《人工智能安全治理框架》。作为公民，我们理应主动学习这些法律法规与行业标准，在法治的轨道上推动AI技术的良性健康发展，做到知法、懂法、守法。

其次，深化宣传普及，提升防范意识。社会各界需多措并举，让大众真正认识到AI背后潜藏的风险。只有让公众了解使用AI工具时可能面临的陷阱，才能帮助大家时刻保持警惕，时刻绷紧安全防范之弦。

再次，强化辨别能力，保护核心隐私。 面对AI生成的内容，我们要多留个心眼，培养批判性思维，做到未经核实不迷信、不跟风转发。同时，在使用AI工具时务必守住底线，严禁将涉密文件、重要成果或个人隐私上传至平台；此外，还要严格限制非必要应用获取我们的通讯录、相册、地理位置等关键权限。

最后，畅通举报渠道，履行公民责任。维护国家安全人人有责。如果您在日常生活中发现任何利用AI危害国家利益的行为或线索，请毫不犹豫地通过12339国家安全机关举报受理电话、网络举报平台（http://www.12339.gov.cn）、国家安全部微信公众号，或者直接联系当地国家安全机关进行举报。