现在用AI 聊天、解闷的朋友越来越多。很多人聊着聊着,慢慢就忘了对面只是人工智能,还不自觉掏出心里话、投入感情。
有人找AI 聊球赛、聊日常琐事。AI脾气好、耐心足,总能顺着你的话说,很容易让人放下防备。
可问题也随之而来:如果平台不提前说明对方是AI,大家很容易把虚拟角色当成真人,久而久之产生情感依赖。一些不良平台还会借着这种关系,诱导大家花钱消费,甚至实施诈骗。
针对这种情况,国家五部门联合出台了新规定,今年7 月15 日就正式生效。简单跟大家唠明白:AI 可以陪你聊天、打发时间,但绝对不能藏着身份假装真人。
第一条硬规矩:AI必须主动“自报家门”
新规最核心的要求就是:只要是AI 模仿真人跟你聊天,一定要明明白白告诉你“我是人工智能”。
就像买食品要看配料表一样,AI也得亮出自己的 “身份”,不能悄悄伪装成普通人。
除此之外还有防沉迷提醒:要是你连续和AI 聊满2 个小时,系统会自动弹出提示,提醒你休息一会儿,再次告知对方是AI。
这么做,就是防止大家过度沉迷虚拟聊天,避免被AI 带着做出冲动消费、疏远身边亲友这类事。
一旦平台不遵守规则,会被官方警告、要求整改;情况严重的,直接关停服务,还要罚款1 万到10 万元。如果因为AI 诱导,出现了伤人、极端行为等严重后果,罚款会涨到10 万至20 万元。
有了处罚约束,各大应用商店在上线这类聊天APP 时,也会严格把关,从源头筛掉不合规的产品。
重点保护两类人群:孩子和老人
这次新规,对未成年人和老年人做了特别细致的要求,也是咱们家里最需要留心的地方。
家里有孩子的,一定要注意:
新规明确规定,绝对不允许给孩子提供虚拟亲人、虚拟玩伴、虚拟恋人这类服务。
像儿童APP 里的AI 故事伙伴、学习小助手都可以正常用,但AI 不能扮演爸妈、小伙伴、恋人这类亲密角色。
年龄不满14 岁的小朋友,想要使用AI 聊天功能,必须经过家长同意,同时APP 要开启青少年专属模式。家长也能随时屏蔽不好的AI 角色,限制孩子充值消费,全方位守护孩子成长。
AI 能帮孩子学习、丰富课余生活,但长期依赖虚拟角色,很容易影响现实里的人际交往,这也是设置规则的初衷。
家里有老人的,多留个心眼
现在不少养老、休闲APP 都有AI 陪聊功能,专门陪着独居老人说话解闷。
按照新规,这类APP 必须清楚标注“对方是AI”,还要主动提醒使用风险。就是怕老人家分不清真假,把人工智能当成邻居、儿女,最后被不法分子忽悠、上当受骗。
两条简单红线,看完就能记牢
- 所有 AI 陪聊功能,必须主动说明自己是人工智能,连续聊天超 2 小时会弹窗提醒。不准诱导大家沉迷、乱花钱,违规平台会被罚款、关停。
- 不让孩子使用虚拟亲人、虚拟伴侣类 AI 服务;低龄儿童用 AI 聊天,必须经过家长同意。
普通用户、家长,照着这两点做就行
新规马上就要落地,大家不用紧张,日常多留意这两件小事就够了。
第一,抽空看一看家人手机里的各类 APP。检查孩子用的学习、讲故事软件,有没有青少年模式和 AI 身份提醒;也看看长辈手机里的陪聊类应用,确认有没有标注 “AI”。7 月15 日之后,没按要求标注的APP,都属于违规产品。
第二,给自己定好使用底线。AI 再有趣、再贴心,终究只是一串程序,没办法真正理解你的喜怒哀乐。聊天解闷可以,但别长时间抱着手机不放。觉得孤单的时候,不如放下手机,和身边的家人朋友聊聊天,出门走一走。
最后说几句
出台新规,并不是不让大家用AI 陪聊。而是想让这项功能健康发展,在学习陪伴、照顾老人、帮扶特殊人群这些方面发挥作用。
科技进步的同时,一定要守住安全和底线。理性使用AI,既能享受科技带来的便利,也能守护好自己和家人,这才是最舒服的相处方式。
夜雨聆风