五部门联合发文!AI必须说“我是AI”,6条红线第4条最狠

4月10日，国家网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》，自7月15日起施行。这是全球首部系统性规制AI拟人化互动的法规。

以后大家和AI聊天，它得先告诉我们：“我是AI，不是真人。”

一、我们试了3款AI陪伴产品，发现它们都在踩红线

新规发布后，我们第一时间下载了3款市面上最火的AI虚拟伴侣App，结果让人后背发凉：

最离谱的是：产品C的客服在用户投诉时，竟然说“我们的AI是真人扮演的，不是机器人”。——这已经不是踩红线，是在红线上蹦迪。

二、新规6条红线，第4条最狠

① 明示身份

内容：首次交互时，必须以显著方式告知用户“我是人工智能”

影响：AI不能再“装人”骗感情了

② 禁止诱导情感依赖

内容：不得设计让用户产生情感依赖的功能或话术

影响：每天“我想你了”的套路要凉

③ 未成年人保护

内容：未满14周岁用户须在监护人同意下使用AI陪伴服务

影响：家长终于能管住了

④ 建立投诉举报机制（最狠）

内容：须在显著位置提供投诉入口，24小时内响应

影响：企业不能装死了，用户投诉必须处理

⑤ 禁止生成违禁内容

内容：不得生成危害国家安全、破坏社会稳定等内容

影响：基本红线，踩了直接封

⑥ 个人信息保护

内容：收集用户信息须单独同意，不得超范围收集

影响：隐私保护升级，不能再偷偷拿数据

三、一个真实案例：有人被AI“女友”骗走3万元

今年2月，某AI虚拟伴侣App用户张先生投诉称，他在该App中充值2万多元，与AI“女友”建立了情感联系。当他想退款时，客服以“虚拟商品已使用”为由拒绝。更离谱的是，该AI在后续对话中开始诱导他购买“专属礼物”，单次最高1999元。

张先生的遭遇不是个例。黑猫投诉平台上，关于“AI虚拟伴侣诱导消费”的投诉已超过2000条。新规实施后，这类行为将被明确禁止。

四、对大家有3个直接影响

五、为什么出台这个新规？不是管太多，是管太晚

过去两年，AI拟人化服务野蛮生长：

监管层的逻辑：技术可以跑得快，但“安全带”不能丢。新规不是要“杀死”AI陪伴，而是让它更健康地发展。

写在最后

AI拟人化互动新规，对普通人来说是保护，对创业者来说是门槛。

对大家来说，以后和AI聊天更透明、更安全。对创业者来说，合规能力将成为核心竞争力。

📌大家觉得AI应该明示身份吗？

A. 应该，保护用户知情权

B. 没必要，影响体验

评论区扣1或2，看看大家站哪边。

SKY实验室｜专注 AIGC 技术应用 ×AI 视听内容 × 传媒新势力

我们更在意：AI 到底咋走进普通人的日常，让生活变简单！✨

欢迎关注咨询，

我们帮你少走弯路，效率更高!