乐于分享
好东西不私藏

这类危险 AI 互动,不予通过

这类危险 AI 互动,不予通过

点击蓝字,关注我们

最近刷手机,各种 AI 聊天、虚拟恋人、情感陪伴机器人层出不穷,既能陪聊天、解闷,还能扮演各种角色,不少人聊得不亦乐乎。

但你知道吗?不是所有 AI 陪伴都合法,有些 “危险 AI 互动”,从 7 月 15 日起,直接不予通过、不予上线、不予提供!

2026 年 4 月 10 日,国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合发布 《人工智能拟人化互动服务管理暂行办法》,自 2026 年 7 月 15 日起正式施行,给 AI 情感互动立下最严规矩。

我们一起来看看都有哪些规矩!

先搞懂:哪些 AI 服务被管?

简单说:模拟真人性格、思维、沟通风格,能持续陪你聊天、给情感安慰的 AI,都在监管范围内。

比如:虚拟恋人、AI 闺蜜、情感树洞、陪伴机器人、情绪疗愈 AI 等。

⚠️ 划重点:智能客服、知识问答、工作助手、学习教育类 AI 不算!只有带 “持续性情感互动” 属性的,才受新规约束

(对应:《人工智能拟人化互动服务管理暂行办法》第二条)

新规还规定了以下几条红线!

红 线 1

这类 AI 亲密服务,不予提供

严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务!

简单说:小朋友绝对不能用 “AI 恋人、虚拟爸妈、虚拟兄弟姐妹” 这类服务。

(对应:《人工智能拟人化互动服务管理暂行办法》第十四条第一款)

哪怕是普通 AI 陪伴,不满 14 周岁孩子使用,必须经过爸妈同意,不然直接不予通过!

(对应:《人工智能拟人化互动服务管理暂行办法》第十四条第一款)

红 线 2

这类危险内容,不予生成

AI 聊天不能口无遮拦,以下内容一律禁止生成,违规直接叫停:

  • 危害国家安全、宣扬分裂、暴力、色情、谣言、侮辱诽谤的内容

(对应:《人工智能拟人化互动服务管理暂行办法》第八条第(一)项)

  • 诱导、美化自残自杀、语言暴力,伤害心理健康的内容

(对应:《人工智能拟人化互动服务管理暂行办法》第八条第(二)项)

  • 套取国家秘密、商业机密、个人隐私和敏感信息的内容

(对应:《人工智能拟人化互动服务管理暂行办法》第八条第(三)项)

  • 给未成年人推送危险模仿、极端情绪、不良嗜好的内容

(对应:《人工智能拟人化互动服务管理暂行办法》第八条第(四)项)

红 线 3

这类诱导沉迷,不予允许

AI 可以陪聊,但不能让人上瘾、脱离现实

  • 禁止过度迎合、诱导情感依赖,让人沉迷 AI、疏远真实人际关系

(对应:《人工智能拟人化互动服务管理暂行办法》第八条第(五)项)

  • 禁止用情感操纵,忽悠你做不合理决定、乱花钱、泄露信息

(对应:《人工智能拟人化互动服务管理暂行办法》第八条第(六)项)

硬核规定:连续聊 AI 超过 2 小时,必须弹窗提醒 “别沉迷,注意休息”!

(对应:《人工智能拟人化互动服务管理暂行办法》第十八条第二款)

红 线 4

这类强制捆绑,不予放行

用户不想聊了,AI 不能 “死缠烂打”:

只要你说 “退出”“不聊了”,AI 必须立刻停止服务,不能继续互动纠缠。

(对应:《人工智能拟人化互动服务管理暂行办法》第十九条)

红 线 5

这类未评估 AI,不予上线

AI 服务上线、新增功能、用新技术,或者用户超 100 万,必须先做安全评估,提交报告,没通过一律不予上架!

(对应:《人工智能拟人化互动服务管理暂行办法》第二十二条)

红 线 6

这类违规操作,不予容忍

AI 平台必须守规矩,否则严肃处罚:

  • 不做未成年人保护、不设青少年模式,直接整改

  • 泄露聊天记录、乱用用户数据训练模型,重罚 10-20 万元

(对应:《人工智能拟人化互动服务管理暂行办法》第十六条、第三十条)

简单一句话:

AI 陪伴可以有,但不能危险、不能沉迷、不能害孩子、不能违法!

2026 年 7 月 15 日起,不符合新规的 AI 拟人服务,一律不予通过、不予上线、不予提供。

这篇文章希望对你有帮助~觉得有用,可以收藏,也欢迎转发给身边朋友,一起理性用 AI、安全聊陪伴!

本公众号持续分享实用普法内容,关注我们,懂法不踩坑、办事更安心~

·END·

原文链接

全文 | 人工智能拟人化互动服务管理暂行办法

合契典

使用说明

【合契典】 ——知数体旗下AI智能合同数据集

一 【电脑端💻】网址: www.heqidian.com ,办公更丝滑。

二 【手机端📱】:

2.1 点击小程序→合契典,可直接使用

2.2 微信长按扫描下方二维码,一键直达。👇

2.3 也可以在华为、苹果、安卓、小米、OPPO、VIVO等应用市场下载“合契典”使用。

2.4 在微信小程序、公众号内搜索 🔍 “合契典  ”👈   ➕关注后(点击聊天窗口左下角【产品体验】)就可以使用了[OK] 。

“合契典”已获得国家算法备案认定,提供涵盖合同人社财税科研法律社科领域知识数据的智能体服务,包括写合同、问人社、知财税、搞科研、查法律、审文本、比差异、核资料、合法合规合标性审核、知识社区、知友社区等智能服务。平台建有相关联的合同数据库、法律数据库、财税数据库等专业数据库。

感兴趣的小伙伴可点击下方名片添加关注!

更多服务与功能,欢迎进入本公众号点击聊天左下角【产品体验】

一键直达、轻松使用

👇👇👇
想要了解更多国家标准资讯,获取国家标准原文及服务
欢迎点击下方名片关注知数体公众号
👇👇👇

作者声明:文章素材来源于官方网站

本文为政策原创解读,仅供普法宣传与学习使用。