夜雨聆风AI擦边视频泛滥
监管难题亟待破解
生成式AI技术迅猛发展，带来便捷与创新的同时，也催生了违法“擦边”内容泛滥问题，亟需完善监管体系保障信息安全和社会风气。
01
境外AI软件使用隐患突出
记者通过商家指引，登录境外应用市场下载了名为“flai”的AI聊天软件，发现要正常使用还需配合下载“快喵”VPN加速器。此类境外软件未经国内安全审核，存在潜在病毒及信息安全风险。
根据国家《生成式人工智能服务管理暂行办法》第十七条规定，未经备案的生成式AI产品不得向公众提供服务。专家指出，App商店不仅是下载渠道，更承担安全审核义务。境外软件缺乏监管极易成为信息安全隐患源头。
02
法规政策持续完善强化治理
2025年4月，网信办开展“清朗·整治AI技术滥用”专项行动，重点打击未履行大模型备案程序的违规AI产品。2026年4月10日发布的《人工智能拟人化互动服务管理暂行办法》进一步明确了安全评估、算法备案以及未成年人和老年人保护等要求。
我国正加快构建生成式AI治理框架，通过法规明确责任界限和监管机制，为行业健康发展提供制度保障，有效遏制违法乱象蔓延。
03
“擦边赛道”成违法牟利温床
记者调查发现，多平台公开售卖利用AI技术制作色情擦边视频的教程，声称仅凭一张图片或几句提示词即可“手搓”大尺度视频。这些教程配以露骨画面，甚至宣扬日入五位数的高额收益。
部分商家还教唆用户规避监管，比如使用境外图生视频软件、离线部署程序等手段，试图逃避国内法律约束。这些行为严重污染网络空间，败坏社会风气。
04
提示词交易助推违规内容扩散
不少社交平台出现售卖AI生成擦边视频“提示词”的帖子，这些提示词是驱动AI生成特定视频内容的关键指令。记者以低价购买多组提示词后发现，其描述细致到发型、服饰、动作幅度等，并将敏感词汇转为英文以规避审查。
实测显示，多数AI应用对直白露骨的提示词会触发审核拒绝，但稍作隐晦修改便可绕过限制。一款拥有1.4亿用户的知名应用仅用一分钟即生成火辣擦边视频，“哩布哩布AI”等平台亦存在类似问题。
05
生成式AI技术应用与风险并存
随着生成式AI技术普及，从视频制作到聊天陪伴功能丰富大众生活，但部分商家利用技术漏洞非法牟利，以“造黄”等违法行为侵蚀网络生态。
面对快速迭代的技术与复杂多变的违法手法，加强技术防护与法律监管协同成为当务之急，以守护清朗网络空间和良好社会风尚。
完
科技会议
