ARTICLE · 1154290
迪拜警方研究警告:深度 ai 伪造技术对数字安全构成威胁
研究呼吁采取积极主动的措施，应对深度伪造技术带来的网络安全风险。
随着人工智能生成的视频、图像和声音越来越难以与真实内容区分，迪拜警方的一项最新研究发出警告：未来网络安全面临的重大挑战，可能不再只是识别虚假内容，而是如何证明真实内容值得信任。
这项研究由迪拜警方未来趋势预测中心（Future Foresight Centre）编制，重点分析快速发展的深度伪造技术可能对公共安全、信息可信度、数字证据的可靠性，以及基于相关信息作出的决策产生哪些影响。
研究还探讨了这些技术带来的新兴风险与机遇，以及个人、组织机构和安全部门应如何做好准备，以应对这样一个未来：仅凭亲眼所见或亲耳所闻，可能已不足以证明信息的真实性。
该研究恰逢每年10月举行的网络安全宣传月，并属于阿联酋内政部发起的“通过数字安全意识守护阿联酋安全”（Safe UAE Through Your Digital Awareness）宣传活动的一部分。该活动由迪拜警方与迪拜电子安全中心（Dubai Electronic Security Center）合作开展。
一、当眼见不再为实
迪拜警方未来趋势预测中心主任、专家准将哈姆丹·艾哈迈德·哈姆丹·加西亚博士（Brigadier Dr Hamdan Ahmad Hamdan Al Ghassiya）表示，生成式人工智能的快速发展，使复制人类面孔和声音、制作逼真的视频及音频记录变得越来越容易。
他解释说，这些技术能力可能被用于实施更加复杂的身份盗用、冒充他人、诈骗、数字欺骗以及信息操纵行为。
这些发展不仅给个人和企业带来越来越大的挑战，也给负责公共安全、数字身份核验和证据审查的机构带来了新的难题。
加西亚强调，深度伪造技术的影响已经超出了识别篡改内容的范畴，更引发了一个广泛的问题：当数字造假越来越逼真时，人们是否还能继续信任真实的数字信息？
二、虚假信息已成为全球主要风险之一
研究指出，国际社会对数字信息可靠性的担忧正在不断加深。
根据世界经济论坛发布的《2026年全球风险报告》（Global Risks Report 2026），在未来两年面临的全球风险中，错误信息与虚假信息被列为第二大风险。
加西亚表示，这一结果反映出国际社会对信息环境完整性和可信度的日益担忧。特别是随着人工智能技术的发展，制作具有迷惑性的数字虚假内容变得更加容易，技术手段也越来越复杂。
三、新挑战：如何证明信息是真实的？
该研究的核心发现之一是：未来的安全挑战可能从单纯识别虚假内容，转向确认真实内容的真实性。
随着深度伪造技术不断进步，即使是合法、真实的照片、视频和录音，也可能受到更多审查，甚至被质疑其真实性。
因此，研究强调，必须核实数字内容的来源、真实性和完整性，以保护个人和机构免受虚假信息与恶意操纵的侵害。
加西亚解释说，未来，维护公众对真实信息的信任，将与识别伪造内容同样重要。
四、深度伪造对安全构成双重威胁
加西亚指出，深度伪造技术带来了双重安全挑战。
一方面，这些技术可能被用于实施诈骗、冒充他人以及传播误导性信息。
另一方面，随着伪造技术越来越先进，调查过程中使用的数字证据和相关信息也将更难核实，从而增加案件调查和决策工作的复杂性。
他强调，安全机构必须提前预判这些技术的发展趋势，并在相关威胁大范围出现之前，提升自身的应对能力。
研究呼吁，不能只在新型犯罪手段出现后才采取应对措施，而应建立更加积极主动的防范机制，包括：
持续监测技术发展趋势；
识别潜在风险的早期预警信号；
评估新兴技术可能带来的安全风险；
推演未来可能出现的风险场景，并提前制定应对方案。
五、利用人工智能打击数字造假
在强调深度伪造技术风险的同时，研究也指出，可以利用先进技术进一步加强数字安全防护。
人工智能能够通过分析照片、声音和视频中的异常及篡改迹象，协助识别和核验被操纵的数字内容。
研究还探讨了如何加强数字取证分析，以及开发更先进的方法，以验证数字证据和相关信息的真实性。
这些技术能力有望帮助安全部门更有效地应对日益复杂的数字欺骗行为。
六、提高公众意识与数字技能
研究强调，仅依靠技术手段，并不能完全解决深度伪造技术带来的挑战。
提高公众的安全意识、培养数字信息核验能力，以及倡导负责任地处理和传播网络信息，同样至关重要。
研究还指出，应将技术解决方案与机构内部管理流程相结合，确保各类组织能够及时适应不断出现的数字安全威胁，同时维护公众对数字信息的信任。
研究呼吁采取全面的数字信任保护策略，将技术创新、公众安全意识教育和机构应对能力建设结合起来。
七、为更加安全的数字未来做好准备
加西亚表示，这项研究是迪拜警方未来趋势预测中心持续监测全球发展趋势和新兴技术的整体工作之一，旨在评估这些技术对警务工作的潜在影响，并寻找提升未来应对能力的机会。
他解释说，提前预测深度伪造技术未来可能的发展方向，有助于安全机构制定相应的应对情景、改善决策机制，并建立应对未来挑战所需的能力。
他最后强调，这项工作的最终目标，不仅是识别被篡改的内容，更是维护人们对真实信息的信任。在日益数字化的世界中，这种信任对于保护社会安全至关重要。
源自 gulfnews
温馨提醒：在阿联酋，如何防范深度伪造诈骗？
随着人工智能技术的发展，视频、语音和照片都可能被伪造。日常生活中，尤其要警惕以下几类风险：
熟人语音、视频借钱：即使对方的面孔、声音与熟人高度相似，也应通过原有电话号码或其他独立渠道再次确认。
冒充警方、政府部门或银行：不要仅凭视频通话、来电号码或对方提供的所谓证件判断身份，更不要轻易透露验证码、银行密码或个人敏感信息。
老板、客户要求紧急转账：涉及大额付款、变更收款账户或紧急汇款时，应通过既有、可信的联系方式进行二次核实。
照片、录音和视频作为证据：在商业交易、合同纠纷及法律案件中，应注意保存原始文件、完整聊天记录、发送时间及相关交易凭证，不要只依赖经过转发或剪辑的片段。
遇到可疑信息及时核实：不轻信、不急于转账、不随意传播未经证实的内容。如涉及疑似诈骗，应及时联系相关银行或阿联酋警方寻求帮助。
特别提醒：未来，判断一条信息是否可信，不能只看“像不像真的”，更要核实信息来源、身份真实性及相关事实。
*公众号内容仅供参考和交流