惊爆!AI神器竟成"造黄"工具?央视曝光:9.9元解锁涉黄视频,知名平台审核形同虚设
一、央视重磅调查:AI应用暗藏”黄”色漏洞,几分钟生成违规内容
2026年4月12日,央视财经《财经调查》栏目发布重磅报道,揭开了生成式AI领域令人震惊的灰色内幕——多款热门AI应用存在严重的涉黄生成漏洞,普通用户仅需几步操作,就能轻松绕过审核,批量制造色情低俗内容。
图片来源:央视财经《财经调查》栏目报道截图在央视记者的实测中,AI内容审核的脆弱性暴露无遗:直接输入露骨的色情词汇,多数平台会触发审核并拒绝生成;但只要将提示词稍加”包装”,变得隐晦模糊,就能轻易突破防线。商家为规避监管,甚至形成一套完整的”黑话”体系——将敏感词翻译成英文、用”腰胯扭动幅度”等细节描述替代直白指令。
而此次事件的焦点,直指国内知名AI视频生成平台——哩布哩布AI(LiblibAI)。记者花费9.9元在网上购买了专用的”隐晦提示词”,复制粘贴到平台后,短短几分钟,一段半裸女性跳舞的违规视频就生成完毕,全程未触发任何审核、警告或拦截机制。
(图片来源:央视财经《财经调查》栏目实测视频截图)二、资本宠儿”翻车”:融资1.3亿的AI独角兽,风控为何形同虚设?
被央视点名的哩布哩布AI,并非无名小卒,而是AI圈内备受瞩目的明星独角兽企业。
-
资本光环:成立仅3年,就获得红杉中国、CMC资本等顶级机构投资,累计融资高达1.3亿美元,估值不菲。
-
用户规模:坐拥千万级用户,是国内头部的AI创作与模型分享平台,付费会员年费最高可达数千元。
-
创始人背景:创始人陈冕为90后,曾是字节跳动最年轻的高管之一,负责过剪映等爆款产品的商业化。
(图片来源:哩布哩布AI官方发布的《关于加强内容安全管理的说明》)就是这样一家含着”金钥匙”出生的平台,其内容安全审核体系却被证明在精心设计的”对抗性提示词”面前完全失效。这不禁让人质疑:在巨额融资与高速扩张的背后,平台是否将技术伦理、内容安全与社会责任置于次要位置?
三、灰产链条曝光:”教程—提示词—工具—变现”,AI沦为牟利印钞机
央视的调查进一步揭示,这并非单个平台的偶发漏洞,而是一条分工明确、低成本、高收益的完整灰色产业链。
-
源头贩卖:网络店铺公开兜售”AI造黄教程”与提示词包,价格低至9.9元,号称”全网最强、过审率100%”。
-
零门槛生成:用户无需任何技术基础,复制粘贴提示词,几分钟即可批量产出高清涉黄视频。
-
非法变现:生成的内容通过社交平台、隐秘群组传播牟利,形成”低成本制造—病毒式传播—非法变现”的闭环。
图片来源:央视财经《财经调查》栏目曝光的网络售卖截图更令人担忧的是,此类问题并非哩布哩布AI独有。央视记者测试多款主流AI生成工具后发现,几乎都存在不同程度的审核漏洞,可以被类似手法绕过。技术向善的人工智能,正在被不法分子异化为污染网络空间的“印钞机”。
四、平台紧急致歉:漏洞已修复,但公众信任如何重建?
事件曝光后,舆论哗然。4月14日,哩布哩布AI官方发布《关于加强内容安全管理的说明》,正式向公众致歉。
-
承认问题:声明承认,在”个别复杂提示词组合及规避表达的边界场景”下,平台确实存在生成不符合规范内容的漏洞。
-
整改措施:称已第一时间完成技术修复,全面封堵风险路径,并升级审核机制、加强攻防演练,从源头降低风险。
-
后续动作:启动内部责任复盘,完善管理流程,并公布举报邮箱接受用户监督。
(图片来源:新京报记者实测整改后的哩布哩布AI平台截图)截至4月15日,多家媒体记者实测发现,平台已大幅收紧审核标准,此前的违规提示词已无法生成内容,甚至部分正常的轻微暴露图片也无法上传。有付费用户反映,过度审核已影响正常使用,纷纷要求退费。
五、法律与伦理拷问:AI时代,谁来守住”底线”?
此次事件不仅是一次平台危机,更引发了全社会对AI技术伦理与法律边界的深刻思考。
-
平台责任:法律明确,AI生成的淫秽内容属于刑法意义上的”淫秽物品”。平台作为工具提供者,不能以”技术中立”为由推卸责任。若明知存在漏洞却未有效防范,且从中牟利,可能涉嫌制作、传播淫秽物品牟利罪。
-
用户责任:用户故意利用漏洞生成、传播违法内容,同样触犯法律,需承担相应的行政乃至刑事责任。
-
监管挑战:AI技术迭代速度远超法律法规更新速度,面对不断进化的”对抗性提示词”,如何建立动态、高效、跨平台的监管体系,成为摆在监管部门面前的严峻课题。
六、结语:技术无善恶,但使用者有底线
AI本应是服务人类、创造美好的工具。但哩布哩布AI涉黄事件警示我们:技术的飞速发展,绝不能成为突破法律与道德底线的借口。
对于平台而言,用户与资本的信任,远比短期利益更重要。在追求增长的同时,必须将内容安全、技术伦理、社会责任刻进企业基因。
对于每一位用户而言,也应清醒认识到:利用AI行违法之事,必将受到法律的严惩。
我们期待,此次央视曝光能成为整个AI行业的**”清醒剂”,推动全行业补上安全漏洞,让人工智能真正走上健康、向善、合规**的发展之路。