“AI陪伴”新规落地,警惕背后的“温柔陷阱”

随着人工智能技术的快速发展，拟人化互动服务已成为重要应用方向，通过模拟人类情感和沟通方式，带来了新的发展机遇和人机交互体验，这项新技术在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力，但不可忽视的是也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。

其实，人工智能拟人化互动服务（AI伴侣）已经不止一次陷入到重大纠纷当中。去年，一则“美国16岁男孩自杀，父母起诉Chatgpt”的新闻引发了广泛关注，也让人们对于”AI伴侣“这个新事物有了进一步的思考。

Vista看天下对“美国16岁男孩自杀父母起诉Chatgpt”事件的报道

为了更好地防范AI陪伴产品潜在的风险，保护未成年群体，《办法》中提出了几条具体的对于AI服务者的规范：一是不得向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容；二是不得“过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系”；三是不得“通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益”。

这几个“不得从事”的规范划定了AI陪伴、情感互动的边界，可以说直击了AI陪伴产品能够获得追捧的核心逻辑。AI类产品所带来的情感真实性与交流的沉浸感正是此类产品吸引大众的价值根基，但是在国家法规的监督之下，AI服务商可能被迫削弱AI陪伴产品情绪反馈的深度与个性化表达。

在条例中对于未成年人使用 AI 陪伴类工具，新规更是做出了详细的规定，旨在为未成年人营造一个健康、安全的网络环境。

打开某款AI陪伴APP，只需要呼叫APP中的虚拟人物说“陪我聊会儿天”，屏幕那头会立刻跳出带着可爱表情包的回复：“我一直在呀，今天学校发生了什么有趣的事？”这样的互动所带来的情感满足，是现实世界中很难得到的。AI陪伴类产品对未成年人的吸引力不言而喻：它们能24小时在线，能耐心倾听烦恼，甚至能“定制”专属互动模式。但这种“完美陪伴”的背后，隐藏着多重风险：