夜雨聆风
AI“造4月12日晚，央视财经《财经调查》的一期专题报道揭示：有人正在用生成式AI批量制造色情内容，且已形成完整产业链——从教程兜售、提示词交易、工具提供到私域变现，环环相扣。
来源 | 数据观综合自央视财经、央视新闻、中国青年报（转载请注明来源）
编辑 | 数据君
4月12日晚，央视财经《财经调查》的一期专题报道揭示：有人正在用生成式AI批量制造色情内容，且已形成完整产业链——从教程兜售、提示词交易、工具提供到私域变现，环环相扣。这些人自称“AI擦边赛道日入5位数”。
这是一条完整的“造黄”流水线。
上游是“卖铲子的人”。在各大社交平台上，公开兜售“利用AI技术制作色情擦边视频”教程的帖子随处可见，标题极具煽动性——“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”，配上色情露骨的画面，堂而皇之地宣扬如何让用户“从无到有”手搓大尺度视频。
央视记者以9.9元和9.8元的价格，分别在两个商家处下单购买了两组“提示词”。所谓提示词，就是指挥AI生成内容的一系列关键指令。商家发来的文件里，描述极其详细——从发型、服饰、身材，到姿势、表情，甚至腰部、胯部扭动的幅度，都做了细致刻画。更重要的是，商家特意将敏感词汇翻译成英文，以此规避平台的审核过滤。
中游是技术支持。产业链提供本地离线部署方案、专用“AI脱衣/换脸”软件，收费从1元/秒视频、10元/张图到268元永久卡不等。部分商家甚至直接利用拥有庞大用户群的知名AI应用来生成内容。
下游则是流量变现。不法分子通过短视频平台发布擦边视频引流至私域，售卖定制色情内容，有的还借机实施诈骗。一条完整的黑色产业链，至此闭环。
央视记者对10款主流AI应用进行了实测，结果揭示了问题的本质。
如果直接输入露骨色情词汇，大多数AI应用会触发审核机制并拒绝生成。但这条防线极其脆弱——只要将提示词修改得更加隐晦，或者将敏感词替换成谐音词、英文，就有可能绕过限制。
在一款名为“哩布哩布AI”的AI应用里，记者输入在网上购买的提示词后，仅几分钟就生成了一个半裸身体的女性跳舞视频，全程未触发任何限制机制。
这暴露了当前AI内容审核的核心难题：对抗性提示词的识别能力严重不足。商家为规避监管，将敏感词汇翻译成英文，或用“腰胯扭动幅度”等细节描述替代露骨指令，形成一套隐蔽的指令体系。现有审核机制更多依赖关键词匹配，面对这种“语义包装”式的规避手段，几乎束手无策。
天眼查数据显示，哩布哩布其关联公司北京奇点星宇科技有限公司成立于2023年5月，成立不到三年，已获得源码资本、高榕创投、金沙江创投、明势创投、巨人网络等多家知名基金的投资。2025年10月，该公司完成1.3亿美元B轮融资，由红杉中国、CMC资本联合领投，创下当年国内AI应用赛道最大单笔融资纪录。
从用户体量看，官网数据显示平台已汇聚超过2000万创作者，累计生成图片超过5亿张，稳居国内AI图像生成领域首位。2024年2月通过国家网信办第四批深度合成服务算法备案，同年3月成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。
一家合规履历如此光鲜的明星企业，为什么会出现审核机制形同虚设的问题？
面对问题，哩布哩布AI迅速发布了回应。
4月14日，该公司发布《关于加强内容安全管理的说明》，承认“在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况”，并表示“相关问题已第一时间完成技术修复，并对风险路径进行全面封堵”，同时启动内部责任复盘机制。
客观来看，针对AI滥用的法规体系正在快速完善。
2023年8月起施行的《生成式人工智能服务管理暂行办法》明确要求提供和使用生成式AI服务，不得生成暴力、淫秽色情等内容。
2026年4月10日，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》正式公布，明确禁止利用AI传播淫秽色情及危害未成年人身心健康的内容，自2026年7月15日起施行。2026年4月，工信部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》（AI科技伦理审查办法来了！工信部等十部门联合发文），标志着AI伦理治理从原则倡导走向制度化、全链条覆盖，监管的“笼子”确实在越扎越紧。
免责声明：
此文内容为第三方自媒体作者发布的观察或评论性文章，所有文字和图片版权归作者所有，且仅代表作者个人观点，与北京物联网智能技术应用协会无关。文章仅供读者参考，并请自行核实相关内容。
END
北京物联网智能技术应用协会（北物联）是由北京市科协指导成立的AAAA级社会组织，获“首都文明单位”等称号，是京津冀物联网与数字经济核心推动力量。以“公益+产业”为核心理念，聚焦全域数字城市、智能制造、绿色能源、数字农文旅、大健康医疗、商业航天、低空经济、量子计算等九大赛道，构建“空天地海一体”物联生态，服务国家战略。 北物联打造“五链合一”生态模式（产业链、创新链、人才链、资本链、服务链），为50+地方政府、2000+企业提供全周期赋能，覆盖初创企业至行业龙头，提供产业对接、政策申报、技术转化、融资对接等服务，年均举办超100+场产业活动，推动100+项技术落地，前瞻布局元宇宙、量子计算、人形机器人、脑机接口等未来产业。北物联以“科技赋能产业，智慧链接未来”为愿景，深化京津冀创新协同，推动中国物联网标准国际化，并探索商业航天、数字海洋等新兴场景。诚邀各界合作伙伴共建开放生态，助力数字中国建设！
添加群主，申请加入AIoT产业生态交流群
点击“阅读原文"
