中央网信办专项整治AI应用乱象

随着生成式人工智能技术加速渗透社会生产生活各领域，其在释放创新活力、提升服务效能的同时，也滋生了一系列突破法律底线、违背伦理准则的应用乱象。从训练数据污染、AI数据投毒等技术源头隐患，到“数字泔水”泛滥、未成年人权益受侵害等内容传播乱象，不仅扰乱网络空间生态，更直接威胁公民合法权益，侵蚀社会文化根脉。

近日，中央网信办部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，以“源头治理+内容清零”的双阶段布局、14类突出问题的精准施策，为AI行业健康有序发展划定监管红线、筑牢制度防线，彰显了我国规范AI应用、守护公共利益的坚定决心，更蕴含着推动AI技术“向善而行、向实而兴”的深层治理智慧。

本次专项行动的核心亮点，在于构建了全链条精准发力、分层分类施策的治理体系，有效打破了以往AI监管中“重表面清理、轻源头管控”的治理困境，实现了从技术研发到应用终端的全流程闭环监管。

第一阶段聚焦AI应用服务的“源头病灶”，重点整治7类典型违规问题，本质上是对AI技术研发与部署环节的前置性规范与风险防控。从大模型备案登记“应备未备”的合规性缺失，到训练语料审核不严、数据来源不合规的安全隐患，再到AI数据投毒的隐蔽性破坏，这些问题表面上是技术层面的疏漏，实则是平台主体责任虚化、合规意识薄弱、风险防控能力不足的集中体现。业内共识表明，训练数据是AI模型的“核心养料”，若训练语料存在违法不良信息、侵权内容，或被不法分子通过篡改语料、伪造权威数据、滥用GEO技术等方式实施数据投毒，终将导致AI模型输出错误信息、传播不良导向，甚至沦为违法犯罪的工具，2026年3·15晚会曝光的虚假智能手环通过AI技术传播虚假功效推荐的案例，正是数据投毒危害公共利益的生动警示。专项行动强化技术源头治理，明确要求平台补齐安全审核短板、规范开源模型管理、严格落实生成合成内容标识义务，本质上是从根源上掐断乱象滋生的链条，推动AI技术发展守住安全底线、筑牢合规根基。

第二阶段聚焦AI信息内容的“终端乱象”，针对7类违法不良内容重拳出击，彰显了“清理存量、遏制增量、严防反弹”的监管力度与决心。从AI“魔改”经典作品、批量生成“数字泔水”，到制作传播虚假信息、假冒仿冒他人身份，再到侵害未成年人权益、利用AI从事网络水军活动，这些乱象直接冲击社会公序良俗、损害公众切身利益，甚至影响社会治理秩序。尤为值得关注的是，专项行动将AI“魔改”经典、歪曲历史人物与典故的行为纳入重点整治范围，本质上是守护社会文化根脉、引导正确文化导向的重要举措，当AI技术被滥用至恶搞古典名著、颠覆历史人物人设，批量生成逻辑混乱、价值空洞、导向偏差的“数字泔水”类内容，不仅污染网络空间，更会误导公众尤其是青少年的文化认知，消解优秀传统文化的精神内涵与时代价值。而对AI“换脸”“换声”假冒他人、滥用“复活逝者”技术等行为的整治，直击个人信息保护与伦理底线，精准回应了社会各界对AI技术滥用的普遍关切。此外，针对利用AI“托管”技术运营账号、刷量控评、制造虚假舆论等网络水军行为的治理，有效净化了网络舆论生态，为行业公平竞争、社会理性表达营造了良好环境。

从深层治理逻辑来看，本次专项行动绝非“一阵风”式的集中整治，而是我国AI治理体系不断完善、治理能力持续提升的重要实践，彰显了“发展与安全并重、创新与规范同行”的科学治理理念。当前，AI技术正处于快速迭代期，全球范围内普遍面临“监管滞后于技术发展”的治理困境，部分国家甚至陷入“放任自流”或“过度管控”的极端误区。我国此次专项行动立足国情实际，坚持“以人为本、智能向善”的核心导向，在明确整治重点、强化监管力度的同时，注重引导平台完善长效治理机制、提升技术防治能力，实现了“监管有力度、创新有空间、发展有保障”的动态平衡。这种治理思路，既严格契合《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等制度规范要求，也与全球AI治理“强化主体责任、规范技术应用、守护公共利益”的主流趋势相呼应，更体现了我国抢占AI治理规则制高点、推动形成AI治理“中国方案”的责任与担当。

需要明确的是，AI应用乱象的治理具有长期性、复杂性、隐蔽性，专项行动的开展只是阶段性治理举措，构建系统完备、科学高效、长效运行的AI治理体系才是根本之道。从实践层面来看，AI技术的快速迭代的特性，决定了治理工作必须坚持多方协同、久久为功。一方面，平台作为AI应用的责任主体，必须切实履行主体责任，主动对照整治重点开展全面自查自纠，完善模型安全审核机制、规范训练数据全流程管理、严格落实生成合成内容标识义务，从技术研发、内容审核、运营管理等全环节筑牢风险防控防线；另一方面，各地网信部门需强化属地管理责任，加强对辖区内平台的督导检查与执法监管，对违规行为依法从严处置，形成“不敢违、不能违、不想违”的高压态势，同时坚持精准监管、分类施策，避免“一刀切”式监管，为中小企业AI技术创新留足发展空间。此外，还需构建“政府监管、平台自律、行业引导、公众监督”的多元协同治理格局——行业协会应牵头制定行业自律规范，引导企业坚守伦理底线、履行社会责任；技术研发者应聚焦“安全可控、向善向好”，推动AI审核技术迭代升级；公众应提升AI素养与辨别能力，主动参与监督，共同筑牢AI应用的安全防线。

人工智能的“奥本海默时刻”已然来临，技术的发展速度越快，越需要筑牢监管与伦理的双重防线。本次“清朗·整治AI应用乱象”专项行动，既是对当前AI应用乱象的精准“亮剑”，也是对AI行业未来发展的长远谋划与战略引领。它清晰传递出一个核心信号：AI技术不是“法外之地”，创新不能突破法律底线，发展必须坚守伦理准则。唯有通过精准化监管、长效化治理、多元化协同，不断规范AI技术的应用边界，遏制违法违规乱象，才能推动AI技术真正服务于社会进步、造福于全体人民，实现我国AI行业在规范中提质、在创新中发展，为全球AI治理提供可借鉴的“中国经验”与“中国智慧”。