“AI物种爆发”,网络安全该怎么干:数据安全从被动防御转向主动免疫

传统数据安全治理是以“防”为核心的静态边界式防护，依托数据加密脱敏、分类分级与隐私保护等安全手段，防范数据被窃取、篡改、滥用、破坏、勒索。随着人工智能技术高速迭代落地，数据在跨主体流转、模型化应用、多主体协作过程中产生的系统性风险不断凸显，传统被动防御已难以有效保障企业重要核心数据安全，必须要从被动防御转向主动免疫。

合法授权与实际用途的对应关系日趋模糊，叠加数据以参数、特征、中间变量等形态留存，难以核验，共同加剧AI环境下的数据来源失控与流转失序风险。一方面，数据从采集到建模应用全链条中，授权边界随场景复用、二次加工持续扩张，初始授权难以覆盖后续衍生用途，超授权调用、跨场景违规复用问题突出；另一方面，数据经AI算法转换为中间形态后，缺乏可信校验机制，篡改、窃取、滥用行为无法被有效识别和追溯，进一步放大了跨主体、跨阶段流转的无序性与不可控性。

数据经AI算法转化为特征、参数进入中间表示层，看似脱离原始敏感信息，输出环节重新指向主体身份、轨迹等敏感属性，呈现“过程隐蔽、结果暴露”的隐私泄露风险，传统手段难以提前察觉。同时，错误或恶意数据嵌入算法逻辑形成“AI操纵”，干扰决策，伦理风险被算法黑箱掩盖，难以识别约束。二者共同构成AI环境下双重隐匿风险，隐蔽性强、溯源难度高，给数据安全治理带来新挑战。

在AI驱动的数据全链条中，风险的产生与扩散贯穿多主体、多环节，任一节点的疏漏或违规行为，都可能因参与主体权责边界不清、追溯链条断裂而难以界定责任主体，进而形成 “权责黑箱”。

亟须统筹构建动态可信、主动免疫、全域协同的新一代数据安全治理体系，依托AI驱动数据安全能力升级，全面提升数据安全治理水平。

数安运营智能体化。搭建数据安全智能体体系，整合异构数据资源，通过智能编排、态势感知、工具调度与自动处置，赋能监测研判、隐患整改与闭环管控，构建全流程智能化运营闭环。

操作日志智能审计。依托协议识别、高速检索等技术，构建用户行为基线，甄别异常访问与违规操作，实现全程留痕、全量留存、智能核查回溯，筑牢操作监管防线。

数据流转智能监测。聚焦跨系统、跨主体交互场景，搭建接口智能监测能力，常态化校验外发策略、排查漏洞与暴露面，实现流转风险智能感知、精准识别与主动防控。（本系列由中国电信网络和信息安全管理部协办）

推荐阅读：

“AI物种爆发”，网络安全该怎么干（一）：国家级网络对抗进入“算法霸权”主导的智能时代

“AI物种爆发”，网络安全该怎么干（二）：网络对抗正式迈入“AI对抗AI”时代

“AI物种爆发”，网络安全该怎么干（三）：打造多模态AIST软件供应链安全治理能力

“AI物种爆发”，网络安全该怎么干（四）：安全产业迈入AI原生网络安全产品新时代

“AI物种爆发”，网络安全该怎么干（五）：安全从业人员不仅要懂安全，更要懂AI

“AI物种爆发”，网络安全该怎么干（六）：推动安全运营模式迈向AgenticSOC

“AI物种爆发”，网络安全该怎么干（七）：建设一流的网络安全垂类大模型能力

“AI物种爆发”，网络安全该怎么干（八）：保护AI与用AI保护同等重要

编辑 | 隗胜楠

校对 | 陶   青  吴硕博

终审 | 李林宝