

AI“造4月12日晚,央视财经《财经调查》的一期专题报道揭示:有人正在用生成式AI批量制造色情内容,且已形成完整产业链——从教程兜售、提示词交易、工具提供到私域变现,环环相扣。
来源 | 数据观综合自央视财经、央视新闻、中国青年报(转载请注明来源)
编辑 | 数据君
4月12日晚,央视财经《财经调查》的一期专题报道揭示:有人正在用生成式AI批量制造色情内容,且已形成完整产业链——从教程兜售、提示词交易、工具提供到私域变现,环环相扣。这些人自称“AI擦边赛道日入5位数”。

这是一条完整的“造黄”流水线。

上游是“卖铲子的人”。在各大社交平台上,公开兜售“利用AI技术制作色情擦边视频”教程的帖子随处可见,标题极具煽动性——“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”,配上色情露骨的画面,堂而皇之地宣扬如何让用户“从无到有”手搓大尺度视频。

央视记者以9.9元和9.8元的价格,分别在两个商家处下单购买了两组“提示词”。所谓提示词,就是指挥AI生成内容的一系列关键指令。商家发来的文件里,描述极其详细——从发型、服饰、身材,到姿势、表情,甚至腰部、胯部扭动的幅度,都做了细致刻画。更重要的是,商家特意将敏感词汇翻译成英文,以此规避平台的审核过滤。
中游是技术支持。产业链提供本地离线部署方案、专用“AI脱衣/换脸”软件,收费从1元/秒视频、10元/张图到268元永久卡不等。部分商家甚至直接利用拥有庞大用户群的知名AI应用来生成内容。
下游则是流量变现。不法分子通过短视频平台发布擦边视频引流至私域,售卖定制色情内容,有的还借机实施诈骗。一条完整的黑色产业链,至此闭环。

央视记者对10款主流AI应用进行了实测,结果揭示了问题的本质。

如果直接输入露骨色情词汇,大多数AI应用会触发审核机制并拒绝生成。但这条防线极其脆弱——只要将提示词修改得更加隐晦,或者将敏感词替换成谐音词、英文,就有可能绕过限制。

在一款名为“哩布哩布AI”的AI应用里,记者输入在网上购买的提示词后,仅几分钟就生成了一个半裸身体的女性跳舞视频,全程未触发任何限制机制。
这暴露了当前AI内容审核的核心难题:对抗性提示词的识别能力严重不足。商家为规避监管,将敏感词汇翻译成英文,或用“腰胯扭动幅度”等细节描述替代露骨指令,形成一套隐蔽的指令体系。现有审核机制更多依赖关键词匹配,面对这种“语义包装”式的规避手段,几乎束手无策。

天眼查数据显示,哩布哩布其关联公司北京奇点星宇科技有限公司成立于2023年5月,成立不到三年,已获得源码资本、高榕创投、金沙江创投、明势创投、巨人网络等多家知名基金的投资。2025年10月,该公司完成1.3亿美元B轮融资,由红杉中国、CMC资本联合领投,创下当年国内AI应用赛道最大单笔融资纪录。

从用户体量看,官网数据显示平台已汇聚超过2000万创作者,累计生成图片超过5亿张,稳居国内AI图像生成领域首位。2024年2月通过国家网信办第四批深度合成服务算法备案,同年3月成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。
一家合规履历如此光鲜的明星企业,为什么会出现审核机制形同虚设的问题?

面对问题,哩布哩布AI迅速发布了回应。
4月14日,该公司发布《关于加强内容安全管理的说明》,承认“在个别复杂提示词组合及规避表达的边界场景下,平台存在生成不符合规范内容的情况”,并表示“相关问题已第一时间完成技术修复,并对风险路径进行全面封堵”,同时启动内部责任复盘机制。


客观来看,针对AI滥用的法规体系正在快速完善。
2023年8月起施行的《生成式人工智能服务管理暂行办法》明确要求提供和使用生成式AI服务,不得生成暴力、淫秽色情等内容。

2026年4月10日,国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》正式公布,明确禁止利用AI传播淫秽色情及危害未成年人身心健康的内容,自2026年7月15日起施行。2026年4月,工信部等十部门联合印发《人工智能科技伦理审查与服务办法(试行)》(AI科技伦理审查办法来了!工信部等十部门联合发文),标志着AI伦理治理从原则倡导走向制度化、全链条覆盖,监管的“笼子”确实在越扎越紧。

免责声明:
此文内容为第三方自媒体作者发布的观察或评论性文章,所有文字和图片版权归作者所有,且仅代表作者个人观点,与北京物联网智能技术应用协会无关。文章仅供读者参考,并请自行核实相关内容。


END


北京物联网智能技术应用协会(北物联)是由北京市科协指导成立的AAAA级社会组织,获“首都文明单位”等称号,是京津冀物联网与数字经济核心推动力量。以“公益+产业”为核心理念,聚焦全域数字城市、智能制造、绿色能源、数字农文旅、大健康医疗、商业航天、低空经济、量子计算等九大赛道,构建“空天地海一体”物联生态,服务国家战略。 北物联打造“五链合一”生态模式(产业链、创新链、人才链、资本链、服务链),为50+地方政府、2000+企业提供全周期赋能,覆盖初创企业至行业龙头,提供产业对接、政策申报、技术转化、融资对接等服务,年均举办超100+场产业活动,推动100+项技术落地,前瞻布局元宇宙、量子计算、人形机器人、脑机接口等未来产业。北物联以“科技赋能产业,智慧链接未来”为愿景,深化京津冀创新协同,推动中国物联网标准国际化,并探索商业航天、数字海洋等新兴场景。诚邀各界合作伙伴共建开放生态,助力数字中国建设!
添加群主,申请加入AIoT产业生态交流群



点击“阅读原文"
夜雨聆风