AI造黄黑色产业链乱象:9.9元可解锁,技术向善如何破局?

编辑|靖程

作者|丁一

2026年4月，央视财经曝光AI涉黄黑色产业链，头部AI创作平台哩布哩布AI因审核漏洞被点名，引发行业震动。尽管该平台紧急修复漏洞，但黑灰产低价兜售提示词与教程、AI换脸造黄谣侵权等乱象仍在蔓延。

一条分工明确、隐蔽高效的违法链条正在侵蚀网络空间，考验着技术安全、平台责任与法律监管的多重防线。

漏洞失守

2026年4月，央视对多款主流AI创作工具进行实测，揭开了AI涉黄乱象的冰山一角。

实测发现，直白色情指令虽会被多数平台拦截，但黑灰产从业者通过将敏感词译为英文、用“腰胯扭动幅度”等细节描述替代露骨指令，便能轻松突破审核防线，其中头部平台哩布哩布AI成为典型案例。

公开信息显示，哩布哩布AI关联公司为北京奇点星宇科技有限公司，成立于2023年5月，经营范围涵盖服务消费机器人制造、工业机器人销售等。

2025年10月，该公司完成1.3亿美元B轮融资，由红杉中国、CMC资本联合领投，创下当年国内AI应用赛道最大单笔融资纪录。

作为坐拥2000万创作者、累计生成图片超5亿张的头部AI图像生成平台，哩布哩布AI已通过深度合成服务算法备案与生成式AI服务备案，合规资质齐全。

然而，在黑灰产精心设计的隐晦提示词面前，该平台的审核机制形同虚设。媒体记者购买相关提示词后，输入平台仅需几分钟，便生成了半裸女性跳舞视频，全程无任何预警拦截。

曝光事件发生后，哩布哩布AI迅速发布道歉声明，称已完成技术修复、全面封堵风险路径。媒体复测时发现，同类提示词已无法生成擦边内容，英文指令更是直接显示“生成失败”。

上海曼昆律师事务所资深律师邵诗巍在接受红星新闻采访时指出，AI“造黄”已形成完整违法产业链，涉及工具、内容、渠道、技术、流量几大环节，相关主体均需承担相应法律责任。

其中，生成式AI工具与平台开发者是主要责任主体；购买提示词批量生成视频的用户、售卖“AI美女提示词”的商家，以及推广、分销境外涉黄AI软件的账号及组织，均涉嫌违法犯罪，其中后者通过邀请码、返利拉新等方式导入境外软件的行为，已涉嫌传播淫秽物品（牟利）罪、非法利用信息网络罪等。

黑产闭环

随着AI技术的普及，AI涉黄黑色产业链已形成上游售教程提示词、中游供工具技术、下游引流变现的完整闭环，不仅门槛极低，且暴利惊人。

财经网科技从电商平台搜索可见，有店铺在售卖“ai美女真人跳舞是新的流量窗口”“2026女装ai提示词指令大全美女跳舞短视频图片模板生成”“性感美女ai绘图提示词”等商品。

更有媒体报道称，不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程，号称仅凭一张图片，甚至几句话就可自行“手搓”“让自己满意的大尺度视频”。

报道称，教程帖子标着“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”的标题，再配上色情露骨的画面。

财经网科技发现，这些所谓的提示词，对人物发型、配饰、身材等做了细致刻画，包括“完美腰臀比”“前凸后翘”等。在央视报道中，商家为规避监管，还将敏感词汇刻意翻译成英文，形成一套隐蔽的指令体系。

当前，上游不法分子通过非法渠道，从被攻击的社交账号、网络公开信息等途径大量窃取普通人尤其是女性的面部照片与身体数据，甚至伪造相关图像。

中游技术人员借助深度伪造等AI换脸、图像生成技术，将正常肖像替换至淫秽内容中，或根据文本指令生成逼真虚假色情音视频。

下游则通过加密通讯软件、小众平台、色情网站及伪装成AI绘画交流的社群进行传播销售，形成定制、批发、会员付费等多种牟利模式。

北京航空航天大学法学院副教授吉冠浩此前提到，用AI造“黄谣”并传播的自媒体和个人，可能对他人构成民事侵权；符合一定条件的还可能违反治安管理处罚法，对其可处行政拘留及罚款；情节严重的还可能触犯刑法，构成传播淫秽物品罪、侮辱罪或诽谤罪。

破局之路

AI涉黄的危害远不止于色情传播，AI换脸造黄谣等行为更是伤人于无形，近年来相关侵权事件频发。

2025年，台球运动员王思诺公开发布视频，称自己深陷恶意AI造“黄谣”风波，有人利用人工智能伪造她的淫秽视频并肆意传播。

同年，青岛保时捷中心销售冠军牟倩文也遭遇类似困扰，有人用AI技术将她的照片生成黄色视频传播，这已是她一年内第二次遭遇此类侵害，涉事男子最终被行政拘留五日。

此前，某高校男生用AI将20多名女性照片制成700余张色情图片，侵权后果触目惊心。一张普通生活照，经黑产工具加工，便能成为敲诈、诋毁他人的“武器”，技术滥用的危害已远超人们想象。

那么，普通人该如何识别AI伪造内容？人工智能大模型研究员潘季明此前表示，从技术角度来说，基于AI技术去识别AI内容是最快的方式。例如，专门的深度伪造鉴别模型可用于分析视频和音频中的不自然特征，如检测眨眼频率、面部肌肉运动生理一致性、音频与纯嘴唇同步率、光源一致性等等，从这些细微的物理或生理破绽中发现端倪。

面对愈演愈烈的AI滥用和侵权现象，监管层面启动了多重应对措施。

2025年网信办启动“清朗・整治AI技术滥用”专项行动，严查AI色情低俗内容；2026年4月五部门出台《人工智能拟人化互动服务管理暂行办法》，明确禁止传播淫秽色情内容，7月15日起施行；新修订《中华人民共和国网络安全法》首次从法律层面明确AI安全风险责任框架。

产业观察家洪仕斌对此类问题指出，要最大限度释放技术的善意，约束类似于AI盗脸的诈骗行为，可以采取一些措施，比如加强相关法律法规的制定和执行，提高人们对于网络安全和个人信息保护的意识，加强对于人工智能技术的监管和管理等。同时，科技公司和研究机构也可以加强技术研发，提高人工智能技术的安全性和隐私保护性，从技术上遏制盗脸类诈骗行为的发生。

综合自红星新闻、新京报等