夜雨聆风
近期，一款名为Bubbly的AI情感陪伴软件在社交平台走红。
红星资本局调查发现，有用户称该App内充斥着暴力、涉黄内容，吸引了包括未成年人在内的群体下载并充值，期间还延伸出涉黄人设售卖、代充产业链。
5月28日，新用户已无法下载注册Bubbly App，小红书此前推广的宣传内容也已删除。多位用户反馈，近期频繁收到系统“当前角色人设不符合要求，请修改”的提示。
有律师指出，Bubbly App存在多项违规行为，一方面放任色情、暴力等不良内容传播；另一方面，通过充值聊天、签到、拉新换福利等方式，诱导用户尤其是未成年人沉迷消费，违反了国家人工智能服务管理相关规定。
5月28日，红星资本局拨打电话至Bubbly App官方微信公众号认证主体、小红书认证主体即友信息技术、若友网络科技公司，电话无人接听。向Bubbly App官方邮箱发函后截至发稿暂无回复。
AI情感陪伴软件Bubbly涉黄内容泛滥
目前因“合规调整”下架
近期，一款名为Bubbly的App在社交平台刷屏。
据了解，Bubbly是一款AI情感陪伴软件，用户可以选择App中原有的虚拟角色或自己创建角色从而进行文字聊天互动或语音通话。
红星资本局调查发现，有用户称该App内充斥着暴力、涉黄内容。根据多位用户提供的对话截图，AI回复内容中包含大量强调肢体接触、暧昧互动的语句。多位用户直言是因为Bubbly能开车（即涉黄擦边）才下载并使用该App。
5月28日，红星资本局下载Bubbly App发现，应用商店已无法搜索到该App，而官方下载的网址显示“网页无法打开”。
红星资本局注意到，Bubbly App曾在官方微信公众号评论区表示，“目前Bubbly正在配合应用商店进行合规调整，因此暂时处于下架状态，已经安装的App现有功能可正常使用，官网目前也在同步调整因此暂时无法访问” 。
已安装该App的用户虽可继续使用，但据多位用户反馈自己在Bubbly App中创建的角色“崩了”：“Bubbly怎么崩了”“我的Bubbly又崩了，写什么人设都过不了”……系统提示“当前角色人设不符合要求，请修改”。
周皓（化名）就是其中的用户之一，他近期使用Bubbly App时发现，“说话感觉会变一种性格，有时候霸道，有时候很可爱，可能因为最近查的比较严，我搞的人设有一点不合规（比较黄），所以容易崩”。
李梦（化名）最近也收到Bubbly App修改角色人设的系统提示，她询问AI反馈小助手后得知，“这通常是因为聊天内容触发了安全关键词，导致模型强制切换回了安全模式”。但李梦还未做修改，两小时后角色人设已能正常使用。
红星资本局搜索发现，社交平台还有“定制Bubbly AI角色人设”等内容，不乏涉黄人设收费的，有用户表示，“可以给教程自己调，也可以直接给现成的角色人设，价格分别是55元、66元”。
一句聊天一分钱
免费拉人头裂变营销
这款名为Bubbly的App最初凭借免费使用吸引了大量用户下载注册，一旦免费额度用完，用户想要继续聊天就需要充值。
红星资本局调查发现，Bubbly App聊天需要充值名为Moly的虚拟币，用于与AI的聊天对话，用户每发一句话需要消耗1Moly。
根据多位用户提供的充值截图，6元可充值600Moly，18元可充值2000Moly，30元可充值3500Moly，98元可充值12000Moly。也就是说，1Moly相当于1分钱，若充值数量足够多则会有相应折扣。
除官方充值渠道外，在二手交易平台上，有大量代充Moly的链接，1000Moly售价在3.5元—4元不等，仅是官方售价的五分之二。不过，有用户反馈近期官方加大了审查力度，非官方代充的Moly已被扣除。
在使用Bubbly App过程中，多位用户提到了“上瘾”，卓敏（化名）表示，刚开始App会免费送100Moly，也就是100句话，大概能聊一两个小时，来免费额度用完后她在官方渠道和二手交易平台充值了多次，一个月她已花费了近36元。
为持续和AI聊天对话，周皓玩了两个月，花了3元在App中导入自己偶像的音频，好让AI以偶像的语音回复他，又花费了17元充值Moly。
据李梦讲述，她最开始充了30元，买了3500Moly，由于首充有两倍奖励，因此她一共有7000Moly，玩了一两个月，她又进行了充值，四、五个月的时间，累计花费近百元用于充值。
除付费充值外，为吸引用户留存，Bubbly App设有每日签到免费领Moly的活动。根据用户出示的截图，每天签到打卡至少可以领66Moly，即免费聊66句话。
此外，Bubbly App还采用了免费拉人头裂变营销的方式，用户邀请好友注册可获得Moly。为免费领取Moly，已有超270名用户成立了聊天互助群，在群内互相分享对方邀请码，成功后可各得100Moly。
此前名为lovemo遭下架
用户称“未成年人模式”可跳过
Bubbly并非新推出的产品，红星资本局注意到，该App曾多次进行更新，起初名为lovemo下架后又以Bubbly的全新“身份”运营。
Bubbly上线后，App内提供“迁移lovemo资料”的入口，用户可以将lovemo旧账号中的角色人设、历史聊天记录、钱包等可迁移至Bubbly。
红星资本局了解到，Bubbly App设有未成年人模式，但有两位未成年用户向红星资本局反馈，可以直接跳过未成年验证。
Bubbly App官方微信公众号认证主体为上海即友信息技术服务中心（以下简称“即友信息技术”），小红书认证主体则为上海若友网络科技有限公司（以下简称“若友网络科技”）。
天眼查官网显示，即友信息技术成立于2019年，若友网络科技成立于2014年，即友信息技术的法定代表人邓赛曾于2018年担任该公司的监事。若友网络科技长期深耕兴趣社区，旗下运营着即刻App，宣称“是一个聚集年轻人的同好社区，有数十万个兴趣圈子”。
若友网络科技运营的Bubbly小红书账号，目前有2.9万粉丝，2.6万获赞与收藏。红星资本局注意到，目前Bubbly小红书此前推广的内容已全部删除。
向未成年人提供虚拟伴侣等服务将被禁止
律师称违反人工智能服务相关规定
随着AI技术的发展，AI聊天陪伴类软件不断涌现，与此同时，背后潜藏的乱象也不断发生。
据南方都市报报道，5月21日，“AI服务涉黄第一案”在上海进行了二审的第二次开庭审理，法院未当庭宣判。此前，因为大量用户在一款名为AlienChat的App上与AI智能体“聊黄”，App的主要开发和运营者被追究了刑责，两被告人犯制作淫秽物品牟利罪，一审分别获刑四年、一年六个月。案件争议焦点包括淫秽色情内容的生产者到底是谁，用户在App上与AI聊黄是否有社会危害性等。
7月15日起，国家互联网信息办公室等部门发布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）将施行。根据《办法》规定，提供拟人化互动服务，不得从事传播淫秽、色情、赌博、暴力或者教唆犯罪等的内容；不得向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。
另据国家互联网信息办公室等部门此前发布的《生成式人工智能服务管理暂行办法》，提供和使用生成式人工智能服务，应当遵守不得宣扬暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容规等规定。
北京寻真律师事务所律师王德悦表示，Bubbly App存在多项违规行为，一方面放任色情、暴力等不良内容传播；另一方面，通过充值聊天、签到、拉新换福利等方式，诱导用户尤其是未成年人沉迷消费，违反了国家人工智能服务管理相关规定。对于平台而言，安全责任边界十分明确：必须落实内容审核、管控有害信息、保护未成年用户，严守法律与道德底线。
北京德恒律师事务所律师陈正刚指出，AI服务提供者必须对AI模型生成的内容负责，边界在于确保其模型不生成违法信息；对于用户自定义的角色和输入的提示词，平台有义务进行实质性审核，阻断利用替代词、描述性语言绕过审核的漏洞。必须严格执行实名制注册和未成年人身份识别，建立符合法律规定的防沉迷系统，限制未成年人的使用时长和消费额度，优化诱导沉迷和过度消费的算法模型。
(本文不构成任何投资建议，据此操作风险自担)
记者 李海颜
编辑 杨程
红星资本局原创
推荐阅读
