建议整治涉黄AI软件乱象 规范AI文生图行业发展

近日，央视曝光知名AI应用哩布哩布AI存在严重涉黄问题，记者通过购买网络违规提示词，短短几分钟便生成半裸女性跳舞视频，平台内容审核限制机制完全失效，沦为色情内容生成工具。令人震惊的是，该应用关联企业北京奇点星宇科技有限公司成立不足三年，竟斩获多家知名资本数亿元投资，登顶国内AI文生图赛道融资额榜首。作为人工智能技术应用的热门领域，文生图AI本应助力数字内容创新、赋能文化产业发展，却在资本盲目追捧下，出现突破伦理底线、触碰法律红线的恶劣问题，不仅污染网络生态，更对社会秩序、行业发展造成多重危害，亟需重拳整治、全面规范。

一、涉黄AI软件及资本无序入局带来的三大危害

（一）污染网络生态，严重危害未成年人的身心健康

AI技术具备生成速度快、传播成本低、内容定制化的特点，涉黄AI软件大幅降低了色情内容制作门槛，让淫秽低俗信息借助数字技术快速扩散，彻底污染清朗网络空间。未成年人作为互联网原生群体，对AI新兴应用好奇心强、辨别能力弱、自我防护意识不足，极易接触到此类AI生成的涉黄视频、图片。这些不良内容会扭曲未成年人的价值观、人生观，侵蚀其心理健康，影响正常的身心发育，甚至诱发未成年人违法犯罪行为，破坏家庭幸福与社会稳定。同时，涉黄AI内容突破公序良俗底线，败坏社会风气，消解主流文化价值，对文明网络环境构建形成极大冲击。在2021年新华社记者就发现过，部分平台、账号利用涉黄信息博眼球、赚流量的问题仍屡见不鲜：有社交软件中存在大量“污”表情；有聊天群、社交平台的话题中发布涉黄图片、语音，诱导色情交易；部分短视频平台上充斥暴露低俗的“露肉UP”，且这些内容对大多数青少年，特别是未成年人轻易可见。此次AI涉黄这种危害的回潮。

（二）扰乱行业秩序，阻碍人工智能产业的健康发展

哩布哩布AI作为头部融资AI企业，非但没有坚守技术伦理、引领行业合规发展，反而放任涉黄内容生成，折射出AI文生图赛道资本逐利无序、行业发展失范的突出问题。在巨额资本加持下，部分AI企业重流量扩张、轻合规建设，重商业盈利、轻伦理约束，为追求用户增长和短期收益，刻意弱化内容风控体系、纵容违规内容生成，形成“以低俗换流量、以擦边谋利益”的不良行业风气。这种恶性竞争模式，会让坚守合规底线、注重技术向善的AI企业陷入不公平竞争境地，挤压正规企业的发展空间，导致整个AI文生图赛道陷入“劣币驱逐良币”的困境，严重扰乱行业发展秩序，阻碍人工智能技术在合法合规、正向创新的轨道上稳步前行。AI产业吸引眼前，受众基数大，涉黄对产业是长期危害。央视报道，在一款拥有1.4亿用户的某知名AI应用，记者按照购买的提示词教程，选取了一张美女图片，并随意选取一段提示词，点击生成。一分钟后，一个美女擦边视频便生成了，视频中的女性身材火辣、穿着暴露、舞姿暧昧。

（三）突破法律底线，加剧网络违法犯罪的治理难度

利用AI生成、传播涉黄内容，已然违反《网络安全法》《未成年人保护法》《生成式人工智能服务管理暂行办法》等法律法规，涉嫌制作、传播淫秽物品违法犯罪。而涉黄AI软件背后形成的“违规提示词售卖—AI内容生成—色情信息传播”黑色产业链，进一步加剧了网络违法犯罪治理难度。从提示词黑产交易，到平台违规放行，再到色情内容扩散，各环节隐蔽性强、跨平台传播快、溯源难度大，给执法部门监管取证带来诸多挑战。同时，多家资本对存在明显合规漏洞的AI企业重金注资，未尽到投资前伦理审查、投资后合规监督责任，变相纵容了违法违规行为，让法律监管与行业约束陷入被动，损害法律权威与行业监管公信力。

人工智能技术的发展初衷是服务社会、造福大众，绝不能成为滋生违法违规、传播不良信息的工具。整治涉黄AI软件乱象，需要监管部门、平台企业、资本机构、社会公众协同发力，严守法律底线、坚守伦理初心、规范行业行为，才能让人工智能技术始终朝着向善、向好、向上的方向发展，营造清朗网络空间，推动数字产业高质量发展。

二、整治涉黄AI软件乱象 规范行业发展的三点建议

（一）强化全链条监管，筑牢网络法治防线

网信、公安、文旅、市场监管等部门要强化协同联动，构建“事前备案、事中巡查、事后惩处”的全流程监管体系，从严整治AI涉黄违法违规行为。全面落实生成式AI服务备案管理制度，对AI文生图类平台开展合规性专项审查，严格审核平台内容风控机制、伦理审核流程、未成年人保护措施，对未完成备案、合规不达标的平台坚决责令下架整改。加大执法查处力度，针对AI生成涉黄内容、违规提示词交易、色情信息传播等违法行为开展专项整治行动，依法顶格处罚涉事平台，关停违规账号、查封违法平台，对涉嫌犯罪的主体坚决追究刑事责任。同时，加快完善人工智能领域监管细则，明确平台、开发者、投资者等各方主体法律责任，填补技术创新带来的监管空白，让AI行业发展始终在法治轨道上运行。

（二）压实平台主体责任，强化技术伦理与内容风控

督促AI文生图平台切实扛起内容安全主体责任，摒弃“重盈利、轻风控”的错误理念，建立健全全方位、无死角的内容审核机制。升级AI内容审核技术，从单一关键词拦截升级为语义识别、图像深度检测、视频动态审核相结合的复合型风控体系，精准识别隐晦提示词、违规生成内容，从源头封堵涉黄内容产出通道。严格落实用户实名认证制度，全面上线青少年模式，对未成年人使用AI服务进行时长、功能、内容三重限制，筑牢未成年人网络保护屏障。建立违规内容快速处置、用户举报核查、违规行为溯源追责机制，主动清理平台不良内容，定期开展合规自查自纠，坚守技术伦理底线，践行科技向善理念，推动平台合规运营、良性发展。

（三）规范资本投资行为，引导行业回归创新本源

金融监管、行业主管部门要加强对人工智能领域投融资行为的引导与监管，建立AI行业投资伦理审查机制，倒逼资本方履行合规监督责任。要求资本机构在投资AI企业前，全面开展业务合规性、伦理安全性尽职调查，严禁对存在涉黄、低俗、侵权等违法违规风险的AI企业进行投资；在投资合作中，将合规运营、伦理建设纳入企业考核核心指标，督促被投企业完善风控体系、坚守法律底线，杜绝为追求短期收益纵容企业违规经营。引导资本理性布局人工智能产业，聚焦技术研发、创新应用、合规建设等核心领域，摒弃盲目追逐流量、唯利益论的投资导向，推动资本助力AI企业深耕正向技术创新、赋能实体经济与文化产业，促进AI文生图行业回归健康、有序、创新的发展正轨。

（使用AI撰写报告）