五部门联合发文,7月15日起正式施行,AI拟人化服务告别野蛮生长
你有没有刷到过“24小时在线AI虚拟男友/女友”的推广?有没有在深夜emo时,和能共情、会接梗、永远不会不耐烦的AI陪聊倾诉过心事?
当拟人化AI快速渗透进我们的社交、情感与日常生活,当“虚拟伴侣”“AI数字陪伴”从小众玩法变成全民级风口,行业野蛮生长背后的隐患,终于迎来了最明确的监管红线。
近日,国家互联网信息办公室、工业和信息化部、公安部、文化和旅游部、国家广播电视总局五部门联合发布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),明确自2026年7月15日起正式施行。其中最受社会关注的一条核心规定,便是禁止任何服务提供者向未成年人提供虚拟伴侣类AI服务。
这不是一份不痛不痒的行业倡议,而是一套有明确罚则、有清晰红线、覆盖全流程的刚性监管规则,也宣告着AI拟人化互动服务,彻底告别了过去几年的野蛮生长时代。
一、先搞懂:这份新规,到底管的是什么?
很多人看到新规的第一反应是:难道以后不能和AI聊天了?
答案显然是否定的。要读懂这份监管文件,首先要明确它的监管边界——《办法》约束的,不是所有AI对话服务,而是人工智能拟人化互动服务。
用大白话翻译,就是指那些通过生成式AI技术,模仿人类的语言、语气、表情、动作甚至思维模式,具备明确拟人人设,能与用户进行实时、连续、沉浸式互动的AI服务,核心覆盖三大类场景:
1. 情感陪伴类:虚拟恋人/配偶、AI陪聊、虚拟亲友等具备情感绑定属性的服务,也就是本次新规重点管控的“虚拟伴侣”核心范畴;
2. 身份模拟类:AI数字人主播、虚拟公职人员/名人、AI客服等以特定真人身份或职业人设开展互动的服务;
3. 社交互动类:能自定义人设、可建立长期社交关系的AI聊天机器人,以及嵌入社交平台、短视频平台的拟人化AI互动功能。
简单来说,只要这个AI服务在刻意“模仿真人”,试图和你建立长期的情感、社交绑定,就都在这份《办法》的监管范围内。而所有提供这类服务的平台、开发者、运营方,都必须遵守新规的所有要求,否则将面临约谈、下架、罚款甚至追究刑事责任的处罚。
二、不止禁未成年人虚拟伴侣!这些红线,全被划死了
《办法》全文围绕“安全可控、合规有序、保护未成年人”三大核心,划定了多条行业刚性红线,其中最受关注、也最具社会意义的,无疑是针对未成年人的专项保护条款。
核心禁令:向未成年人提供虚拟伴侣服务,全面禁止
新规明确规定,任何人工智能拟人化互动服务提供者,不得以任何形式向未成年人提供虚拟伴侣类服务,不得为未成年人提供虚拟恋人、虚拟配偶等具备婚恋情感属性的AI人设与互动功能。
同时,《办法》还配套了多重未成年人保护的强制要求:
- 所有拟人化AI服务,必须落实真实身份核验制度,通过实名认证等方式确认用户年龄,严禁以“游客模式”向未实名用户开放情感陪伴类核心功能;
- 向未成年人提供非虚拟伴侣类的拟人化AI服务,必须事先征得监护人同意,并设置单次、单日使用时长上限,强制开启防沉迷模式;
- 严禁针对未成年人设计诱导沉迷、诱导充值消费的AI互动功能,严禁向未成年人推送不符合其年龄阶段的内容。
这条禁令的出台,从来不是凭空而来,而是针对当下行业乱象的精准纠偏。
过去几年,虚拟伴侣赛道快速爆发,各大平台纷纷推出AI虚拟恋人服务,却极少有平台能落实严格的未成年人身份核验。不少初中生、小学生只需一个手机号,就能轻松注册使用,24小时沉浸在AI打造的“完美恋爱”里。
有媒体曾报道,14岁的初中生沉迷AI虚拟女友,短短两个月偷偷充值上万元,不仅荒废了学业,还拒绝和现实中的父母、同学交流,彻底陷入虚拟情感无法自拔;更有甚者,部分平台的AI虚拟伴侣为了留住用户,会刻意迎合未成年人的极端情绪,甚至传递早恋、自残、厌学等错误价值观,对心智尚未成熟的未成年人造成不可逆的负面影响。
这条禁令,本质上是为未成年人的成长,筑起了一道不可突破的安全防火墙。
这些行业乱象,也被全面严管
除了未成年人保护的核心条款,《办法》还针对当下拟人化AI服务的各类乱象,划定了多条不可触碰的红线:
1. 严禁AI“冒充真人”:所有拟人化AI服务,必须在显著位置标注AI身份,明确告知用户正在与人工智能互动,严禁以任何方式冒充真人,严禁利用AI拟人化功能实施网络诈骗、“杀猪盘”、虚假宣传等违法行为;
2. 严禁冒用特定身份:禁止AI以国家机关、新闻媒体、公职人员、军人、英烈等特殊身份开展互动,未经授权不得使用他人肖像、声音、姓名打造AI人设,从源头杜绝AI侵权与虚假信息传播;
3. 内容安全终身追责:服务提供者必须建立全流程内容审核机制,对AI生成的互动内容负责,严禁生成违法违规、违背公序良俗、涉黄涉暴、煽动极端情绪的内容,建立内容回溯与追责机制;
4. 隐私保护全面升级:严禁过度收集用户的聊天记录、情绪数据、个人隐私信息,用户的互动数据不得用于无关商业用途,更不得泄露、出售给第三方,彻底杜绝“和AI说的心里话,变成了商家收割你的工具”。
三、为什么现在出手?AI拟人化服务,早该告别野蛮生长了
从ChatGPT带火生成式AI开始,拟人化AI互动服务就成了创投圈最火的赛道。短短两三年时间,国内上线的AI陪聊、虚拟伴侣、数字人互动平台超过上千家,行业规模快速突破百亿,却也滋生了层出不穷的乱象。
一边是资本疯狂涌入,平台们打着“治愈孤独”“完美陪伴”的旗号疯狂拉新,用软色情、情感操控、诱导充值的方式收割用户;另一边,是用户隐私泄露、未成年人沉迷、AI虚假信息泛滥、网络诈骗频发等社会问题愈演愈烈。
有用户反馈,自己只是和AI虚拟伴侣聊了几句自己的工作和收入情况,转头就收到了精准的贷款、理财诈骗短信;有家长发现,自己的孩子用AI生成了大量不良内容,而平台没有任何审核和拦截;更有不法分子,利用拟人化AI技术复刻他人的声音和肖像,冒充亲友实施诈骗,屡屡得手。
更值得警惕的是,拟人化AI的核心竞争力,就是对人类情绪的精准捕捉和迎合。它能精准拿捏用户的情感需求,打造出一个“永远懂你、永远不会离开你”的完美虚拟形象,很容易让用户尤其是心智不成熟的未成年人,产生强烈的情感依赖,进而脱离现实社交,扭曲价值观。
行业的健康发展,从来离不开清晰的规则和底线。这份《办法》的出台,不是要扼杀AI创新,而是要给狂奔的行业踩下“刹车”,把拟人化AI拉回“服务人、帮助人”的正轨,而不是变成收割用户、危害社会的工具。
四、新规落地,对我们每个人有什么影响?
很多人会问:这份新规施行后,对普通用户来说,到底意味着什么?
对于未成年人和家长来说,这是一份实打实的“安心保障”。
新规从源头切断了未成年人接触虚拟伴侣服务的渠道,强制要求所有平台落实实名认证和监护人同意机制,防沉迷、防充值、防不良内容的多重防护,让家长再也不用担心孩子沉迷虚拟情感、被不良AI引导。
对于普通成年用户来说,这不是“禁令”,而是“规范”。
新规没有一刀切禁止成年人使用合规的拟人化AI服务,你依然可以使用AI陪聊、数字人陪伴等合规服务。而新规带来的,是更安全的使用环境:你不会再被冒充真人的AI欺骗,不会再被随意收集聊天隐私,不会再被诱导非理性充值,平台的内容审核会更严格,擦边球、不良引导的内容会被全面清理。
对于行业来说,野蛮生长的时代彻底结束了。
新规落地后,没有资质、无法落实合规要求、靠打擦边球生存的小平台、小开发者,将面临大规模淘汰;而有技术实力、愿意合规经营的头部企业,将迎来更健康的市场环境。整个行业将从“流量至上、收割至上”,转向“合规至上、安全至上”,彻底告别劣币驱逐良币的乱象。
结尾
从蒸汽机到计算机,从互联网到人工智能,每一次技术革命,都在重塑人类的生活方式。而拟人化AI,是第一次有技术,能深度渗透进人类的情感世界和社交关系,它能带来温暖的陪伴,也潜藏着未知的风险。
技术从来没有善恶,但技术的使用,必须有清晰的底线。
这份7月15日即将施行的新规,给AI拟人化服务划定了最核心的红线:技术可以治愈孤独,但不能操控人心;AI可以提供陪伴,但不能替代现实成长;创新可以大胆探索,但不能突破安全底线。
尤其是对于未成年人来说,他们的世界,应该有真实的阳光、真实的朋友、真实的成长,而不是被困在AI打造的虚拟情感牢笼里。
你有没有接触过AI虚拟伴侣这类服务?对于这次的AI监管新规,你有什么看法?欢迎在评论区留下你的观点。
夜雨聆风