夜雨聆风
AI陪伴监管：情感陪伴软件规范与AI演员广告法律边界
摘要： 国家网信办等五部门公布的《人工智能拟人化互动服务管理暂行办法》正式施行，这是我国首部专门针对AI情感陪伴、虚拟人、拟人化互动服务场景出台的国家级监管规则。同时，AI演员"方桃子"带货美瞳事件引发法律边界讨论。
开篇：AI陪伴的双刃剑
聊天搭子、情感代糖、知心朋友……AI陪伴正在成为越来越多人的选择。一项调查显示，超七成受访大学生将AI视为可"聊天"的对象，23.19%属于"高频交流型"，超过半数经常或偶尔将私密心事向AI倾诉。
然而，当AI越来越像一个随时在线的树洞，这份陪伴，究竟是"知心朋友"还是虚拟慰藉？7月15日，国家网信办等五部门公布的《人工智能拟人化互动服务管理暂行办法》正式施行，这是我国首部专门针对AI情感陪伴、虚拟人、拟人化互动服务场景出台的国家级监管规则。
核心数据：AI陪伴的现状与风险
使用现状
大学生群体： 超七成受访大学生将AI视为可"聊天"的对象
高频交流： 23.19%属于"高频交流型"
私密倾诉： 超过半数经常或偶尔将私密心事向AI倾诉
青年网民： 13.5%的受访青年网民会向AI虚拟人倾诉心事，这一比例已高于向父母亲人倾诉的10.4%
风险警示
情感依赖： 长期依赖AI进行交流，会降低人们对复杂人际关系的耐受度
隐私泄露： AI聊天软件的运作原理基于用户输入的个人信息、对话内容、行为偏好等数据进行算法分析与反馈
未成年人风险： 部分AI陪伴软件可能存在低俗内容推送、青少年保护机制形同虚设、诱导未成年人非理性充值等问题
监管措施
管理办法： 《人工智能拟人化互动服务管理暂行办法》正式施行
核心要求： 不得生成鼓励、美化、暗示自残自杀等内容，不得过度迎合用户、诱导情感依赖或沉迷损害真实人际关系
平台责任： 发现过度依赖倾向须弹窗提醒，且不得向未成年人提供虚拟亲属、伴侣等亲密关系服务
AI演员广告法律边界
事件背景
虚拟女主"方桃子"： 热播AI短剧《被裁掉的女孩》中的虚拟女主，拥有41.2万粉丝的独立账号
首条商单： 某品牌美瞳种草视频，广告报价已超过大部分拥有百万粉丝的真人网红
争议焦点： 广告口播中提到"我的美瞳戴了一天都很舒服"，被质疑AI演员没有产品体验能力
法律分析
代言人定义： 广告法所指的广告代言人须为民事主体，"方桃子"只是利用AI技术生成的虚拟数字形象，无法独立承担法律责任
虚假广告风险： 没有真实体验，却能用第一人称虚构体验，等于"未使用不得代言"这条保护消费者的防线，被技术的拟人化效果绕过去了
医疗器械广告： 美瞳直接接触角膜，具有较高风险，属于第三类医疗器械，广告法明文规定禁止利用广告代言人作推荐、证明
责任主体
运营公司： AI演员背后的运营公司须对广告内容的真实性、合法性承担法律责任
广告主： 广告主须对广告内容的真实性负责
广告发布者： 广告发布者须对广告内容进行审核
行业影响：AI监管新阶段
监管体系完善
内容监管： 生成式AI内容管理持续拓展到AI智能体、人形机器人、虚拟数字人等新兴领域
备案管理： 截至6月末，全国988款生成式AI服务完成备案、598款应用完成登记
常态化监管： 常态化监管机制已成型
平台调整
字节跳动豆包： 宣布下线智能体功能
阿里巴巴千问： 宣布下线智能体功能
网易云音乐妙时： AI情感陪伴APP妙时已经宣布停运
产业发展
合规发展： AI产业在监管框架下健康发展
创新激励： 监管明确边界，激励合规创新
风险可控： 建立健全AI产业风险防控体系
专家观点
南京大学社会学院教授陈友华： "和AI聊天，就像是'情感代糖'。代糖很甜，却替代不了真正的营养元素。AI能够缓解表面的孤独，却无法提供真实、有温度、互惠的人际连接。长期依赖与AI进行交流，会降低人们对复杂人际关系的耐受度，从而导致社交回避与情感钝化。"
北京市第四中级人民法院法官助理杨宗腾： "AI聊天软件的运作原理，是基于用户输入的个人信息、对话内容、行为偏好等数据进行算法分析与反馈，而所有这些交互内容都会被记录、存储甚至用于模型训练，因此，当AI变得'越来越懂你'，与之相对的可能是个人信息的暴露。"
检察日报： "广告真实性的底线，对虚拟人和真人应当是一致的。根据AI演员的不同特征，给它划分出适宜代言的广告领域，才能帮助其找到健康发展的赛道。"
未来展望：AI监管的发展趋势
监管演进方向
分类监管： 针对不同类型的AI应用实施差异化监管 动态调整： 根据技术发展和市场变化动态调整监管策略 国际接轨： 推动AI监管国际规则对接 行业自律： 建立健全AI行业自律机制
产业发展前景
合规创新： 在监管框架下推动AI技术创新
用户保护： 加强用户隐私保护和权益保障
行业规范： 建立健全AI行业标准和规范
国际竞争： 在合规基础上参与国际AI竞争
一句话金句
"AI可以是现实社交的'练习场'与'缓冲带'，但别让它成为交流和表达的终点。"
本文由AI实观-念头通达团队出品，聚焦AI行业最新动态深度解读。