夜雨聆风央广网北京5月11日消息（总台中国之声记者周益帆）据中央广播电视总台中国之声《新闻晚高峰》报道，随着生成式人工智能技术的飞速发展，大模型在文本生成、图像创作等领域的应用日益普及。然而，这项旨在提高生产力的技术，却被一些黑灰产从业者盯上。网络上，出现了一批主打“一键生成爆款种草笔记”的AI写作工具，这些工具以极低的成本，批量炮制虚假消费体验和商品推荐。
对于以“真实分享”为核心竞争力的社交和内容平台而言，此类低成本、零门槛批量生成的仿真实内容，让普通消费者在海量“AI水军”面前难辨真伪，严重挤压了优质原创创作者的生存空间。
近日，中央网信办部署开展“清朗·整治AI应用乱象”专项行动，聚焦利用AI技术生成“数字泔水”、制作发布虚假信息等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN机构和网站平台。这些“数字泔水”从何而来？又该如何治理？
“输入几个关键词，AI帮你全自动写出爆款种草文案……”在各大短视频平台和二手交易网站上，“利用AI自动化起号”“批量做矩阵号”成为了不少网络课程的噱头。购买过此类课程的消费者王馨（化名）接受中国之声采访时说：“录播课教你怎么用AI，给了一些指令，用AI写作、起号等，分析一下热门赛道，然后就让AI分析、写出爆款帖子。
记者搜索发现，类似的课程及工具在网络上有不少，在二手平台，花几毛钱就可以买到破解版软件及教学视频。
在黑猫投诉平台，一款被多位消费者投诉的AI写作助手，终身会员199元，提供工作总结、论文撰写、小说创作、短视频脚本、社交平台笔记标题生成等上百种服务，记者仅输入笔记主题，不到一分钟的时间，该款工具生成了20个“爆款标题”；在商品推荐文案功能中，输入商品名称、品牌等几个要素，可以瞬间生成几百字的种草笔记。这些伪装成真人亲测的分享内容，在生成的过程中，不需要任何真实出行经历、产品使用体验，完全由AI杜撰、虚构。
此类AI写作工具往往提供工作总结、短视频脚本、社交平台笔记标题生成等上百种服务
在课程学习及体验过程中，王馨觉得，批量拼凑的“种草笔记”内容质量很低。
王馨说：“效果不是很好，AI味太重，就会有很多那种没用的修饰，有的逻辑都不对，时间逻辑、叙事逻辑都会有问题。”
无论是对于平台、创作者还是庞大的用户群体，AI批量生成的低质内容都会带来前所未有的冲击。小红书社区用户信任中心负责人吉吉表示：平台一直在关注及治理相关内容。
吉吉说：“我们也做过比较大范围的用户调研，有接近三成的用户对于AIGC的内容接受度并不高。这个平台提供给用户的核心价值是建立在真实之上的，UGC在这里分享是基于自己真实的生活经验、生活实践的内容，这些经验被其他用户看见、借鉴、参考和实践，基于真实人的真实经验分享而建立起来信任关系，但是AIGC内容大量涌入、批量制造，内容的这个成本正在趋近于零，对于整个社区的比较良性的创作生态，其实也是一个非常大的冲击。”
AIGC领域科普作家、某头部社交平台优质创作者孙毅同样对此表示担忧：低廉的成本、虚假的内容，会对网络内容生态构成威胁。
孙毅说：“如果内容里面充斥着大量比较低质的内容，那其实真人创作者被‘埋没’的可能性就会更大，这其实是一种‘劣币驱逐良币’，大模型迭代本来是靠着一些优质的真人的内容，然后去补充它，让它变得更好，但实际上如果说这种低质的内容充斥互联网，又被大模型反向吸收，最后就会导致这个模型‘塌陷’。”
不久前，中央网信办印发通知，开展为期4个月的“清朗·整治AI应用乱象”专项行动，将重点整治通过AI“托管”技术运营账号，模拟真人批量注册、运营社交账号，批量生成发布低质同质文案等AI应用乱象。
一方面，监管部门紧盯AI技术滥用，另一方面，平台也不断跟进完善治理机制，升级账号风控与异常行为识别能力。监管整治、平台治理双向发力的同时，司法层面也同步出台判例、明确执法标尺，以司法审判规范AI应用行为。
近日，浙江省杭州市中级人民法院披露了一起涉及某社交平台AI批量代写种草笔记典型案例，作为全国首例涉及AI代写“种草笔记”的不正当竞争案件，判决为生成式人工智能服务提供者划定了合理的注意义务边界。
据介绍，原告是知名社交平台的经营者，该平台规则和平台公约均强调要真实体验和经验分享，本案被告B公司和C公司共同运营了一款AI写作工具，该工具可定向为用户提供上述社交平台风格的种草文案、旅游攻略等内容的一键生成服务，并诱导用户发布文案到该社交平台。原告认为被告的行为破坏了该社交平台真实的种草内容生态，向法院提起诉讼，要求后者停止著作权侵权及不正当竞争行为。该案法官助理张宗滨介绍：“本案被诉的这个AI写作工具，有网页版、App、微信小程序等三种版本。它的热门模块，直接展示了小某书种草文案、小某书的旅游攻略、小某书笔记标题等服务模块，并且服务模块的名称直接采用了小某书相关的命名，还直接使用根据产品特点帮你生成‘符合小某书调性的分享文案’等宣传语。点击进去‘小某书种草文案’服务模块，在输入‘选择品种’这个栏目输入‘护肤个护’，在‘产品名称’和‘产品特点’这个栏目分别输入‘胶原水乳’‘温和不刺激’‘保湿嫩脸效果挺明显的’，点击一键创作，就可以直接生成一篇几百字、绘声绘色的文案。”
张宗滨介绍，本案的核心争议焦点主要是：针对该社交平台定向提供生成式人工智能服务是否构成不正当竞争。《中华人民共和国反不正当竞争法》第二条规定，不正当竞争行为，是指经营者在生产经营活动中，违反本法规定，扰乱市场竞争秩序，损害其他经营者或者消费者的合法权益的行为。
张宗滨说：“这也是双方在一审和二审过程当中都存在较大争议的一个方面。B、C公司认为他们提供的这个服务，本质就是一种技术服务，也就是我们所谓的‘技术中立抗辩’，那么我们认为技术本身其实是中立的，但是并不代表这个技术的应用是中立的。关键还是要看这个技术是怎么用的、用在哪儿、针对谁、是否盈利，我们要防止以人工智能技术为幌子，实施侵害他人合法权益的技术滥用的行为。”
随着我国《网络反不正当竞争暂行规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等文件落地，国家层面对AI服务提供者的合规义务提出了明确要求：此类服务应当尊重知识产权、商业道德。在审理中，法院首先明确了原告通过长期经营积累的真实内容生态，属于受法律保护的竞争性权益。
张宗滨说：“A公司通过长期的经营，投入了大量的成本、人力、物力，产生和积累了大量的种草笔记内容，形成了以真实体验为核心的种草内容生态。这个生态也是其获得商业利益和竞争优势的一个核心资源，所以我们就认为它是属于《中华人民共和国反不正当竞争法》应当保护的竞争性权益。”
而基于生成式人工智能服务的特点，被告无论是从行为方式还是行为目的来说，没有尽到合理注意义务。张宗滨介绍，在本案中，法院创新性地提出了“四要素判定法”，判决被告B、C公司赔偿原告经济损失及合理开支共计10万元。
被诉服务模块以该社交平台作为特定的商业应用层，并非是通用的AI工具
张宗滨说：“第一，被诉服务是否属于生成式人工智能服务。第二，被诉服务是否以特定场景作为应用层？结合到本案当中来，被诉服务的这个模块名称直接使用了‘小某书种草文案’等表述，并且它是以该社交平台作为特定的商业应用层，而并非是通用的AI工具。第三，被诉服务是否带有明确的指向性和诱导性？那结合本案当中被诉的服务模块，都是要诱导用户发布未经真实体验的相关文案内容。第四，关于被诉服务是否属于营利性的商业行为，结合本案，该AI写作工具的相关页面显示终身会员168元，年会员98元，月会员40元。那它其实是由明确的商业利益驱动的。”
AI写作工具相关页面显示终身会员是168元
从治理的角度来说，该案判决的生效不仅是对原告合法诉求的回应，也明确了生成式人工智能服务提供者合理的注意义务边界，为治理提供了参照准则。小红书社区用户信任中心负责人吉吉表示，平台始终以真实性与原创价值作为AI内容治理的根本标尺。
吉吉说：“对于已经打标的AIGC内容，我们会通过两类手段来识别低质，一类是通过平台。我们过往一直在建设对于低质内容识别的模型，在发布环节或者是曝光初期对低质内容进行识别拦截，这里面包括同质化、信息含量低，也包括一些‘擦边’博眼球的内容。另外一个手段是根据用户的反馈，比如说用户的举报行为，用户对于笔记点击不喜欢的行为，来定位今天AIGC的低质内容。”
吉吉表示，从治理来说，除平台进行识别拦截外，更需要AI模型厂商、生成式AI服务提供者共同承担主体责任。
吉吉说：“也就是什么类型的、什么样的内容是由AI生成和合成的。因为市场上的生成式模型的能力迭代非常快。如果用户上传的内容没有携带模型生成的暗水印或者信息的话，会对我们的识别造成非常大的难度。我们也呼吁，各大模型厂商能够加强对于生成内容的打标规范。”
张宗滨认为，未来要关注模型研发、内容生成到合规管控等多个环节，构建全链条共治格局。
张宗滨说：“第一个是要确保训练的数据和模型设计合规，不得将模型定向优化为生成特定平台的违规内容。第二个是要加强风险提示和内容管控，要以显著的方式提示AI生成内容的局限性，明确禁止用于发布虚假的信息，也要遵守特定的平台规则，限制定向用于特定平台的违规的场景。第三是要做好内容标识和用户数据保护。第四，要建立投诉举报机制，对于违法或侵权的内容要及时处置。”
