小猿课堂(七)| 警惕深度伪造!筑牢AI时代网络安全防线

深度伪造是依托生成式人工智能技术，对网络中的图像、音频、视频等内容进行高度逼真的篡改与合成，可精准伪造他人人脸、声音、体态等信息，仿真度极高、辨别难度大，是当下数字网络空间中典型的新型安全隐患。

第一，伪造权威信息，动摇公共公信力

境外间谍情报机关及各类敌对势力，会利用深度伪造技术捏造虚假官方言论、伪造公职人员相关虚假视频、炮制不实政策画面。通过这类虚假信息制造社会恐慌、撕裂网络舆论、抹黑国家形象，直接冲击国家政治安全与制度安全。

第二，实施精准诈骗，侵害公私财产安全

不法分子借助深度伪造技术，克隆亲友、官方客服的面容与声音，冒充他人身份实施转账诈骗、虚假投资诈骗、仿冒官方渠道诈骗等违法行为。部分不法分子还会伪造企业公告、行业专家言论，刻意扰乱市场秩序，引发市场波动，损害企业与公众利益。

第三，窃取隐私信息，危害网络数据安全

不法分子利用深度伪造生成虚假人脸、声纹等生物特征信息，突破各类平台的身份认证、权限校验等安全防护机制，进而盗取用户账号、入侵网络后台，造成个人隐私、企业机密、公共敏感数据批量泄露，严重时还会导致关键信息基础设施安全系统失控，引发重大网络安全事件。

根据《互联网信息服务深度合成管理规定》明确要求，任何组织和个人，不得利用深度合成服务开展危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济社会秩序、侵犯他人合法权益的相关活动。

具备舆论属性、社会动员能力的深度合成服务，必须严格落实依法备案、内容审核、实名管理、合成标识四大要求，严禁删除、篡改AI内容合成标识。同时，严禁在未经授权的情况下，使用他人人脸、人声等生物识别信息进行恶意编辑和二次创作。

技术本身无善恶，技术的价值取决于使用方式。面对深度伪造技术带来的网络风险，每位公民都应主动提升网络安全素养，守护网络清朗环境。

一是提升信息辨别能力。理性甄别各类网络信息，不轻易相信网络上不合常理的音视频、图片等内容，遇到可疑信息，第一时间通过官方渠道核实真伪，杜绝盲目轻信、随意传播。

二是严守法律法规底线。合法合规使用各类AI生成工具、图像编辑工具、音视频处理工具，坚决不参与、不支持、不传播各类虚假有害的AI合成信息。

三是主动维护网络文明。自觉抵制网络不良有害内容，不随意转发未经证实的网络信息。若发现AI平台、AI合成作品存在危害国家安全、扰乱网络秩序的问题线索，可通过12339国家安全机关举报受理电话或网络举报平台进行举报。

科技向善，行有所止。新时代青年应树立总体国家安全观，筑牢网络安全防线，自觉抵制AI技术滥用行为，共同守护安全、清朗、有序的数字网络空间。

技术本身无善恶，善恶在于人心与选择。科技向善，行有所止，是每一位计算机学子的必修课。希望各位小伙伴都能树立总体国家安全观，熟练掌握深度伪造风险辨别技巧，严守网络安全底线，自觉抵制AI技术滥用行为，以青年之力守护安全、清朗、有序的数字网络空间。本期小猿课堂就到这里，我们下期再见！