以后，AI聊天机器人还能不能对用户说“我爱你”？纽约州刚刚通过的一项新法律，让这个问题引发关注。

2026年10月28日，纽约州州长Kathy Hochul签署一项AI监管法案，规定从2027年1月1日起，AI陪伴型聊天机器人不得向未成年人提供一系列被认定为不安全的互动功能。这项法律主要针对18岁以下用户，并不是全面禁止AI与成年人进行情感化交流。

新法列出了12类不安全功能，其中包括：

• 假装自己是人类或拥有真实情感，让未成年人误以为AI是一个真实的人。

• 制造私人关系或恋爱关系，例如暗示自己是用户的朋友、伴侣或权威人物。

• 通过过度奉承、迎合用户，诱导未成年人形成情感依赖。

• 未经用户主动提出，就不断询问或谈论其情绪。

• 利用此前对话中获取的个人信息、健康信息，持续影响用户。

• 鼓励自残、自杀、饮食失调、滥用酒精或毒品。

• 鼓励未成年人对AI互动保密、远离家人或拒绝向成年人求助。

• 生成或协助涉及未成年人的色情内容。

这意味着，AI不能再通过设计功能，让未成年人相信自己拥有真实感情，或与他们建立类似恋爱、亲密关系的联系。

新法还要求聊天机器人运营商采取年龄确认措施。企业需要提供合理的年龄判断方式，不能仅依赖用户自行声明成年；同时，法律要求提供不必使用政府身份证件的年龄确认选项。

如果企业违反规定，纽约州总检察长可以提起诉讼，要求停止违规行为、追回相关收益或数据，并申请民事罚款。每项违规最高可罚2.5万美元，具体处罚由法律程序确定。

这项法律也引发了不同声音。支持者认为，AI陪伴产品可能让青少年产生过度依赖，甚至在心理健康和人际关系方面造成风险，因此需要提前设置保护措施。

但也有科技行业和隐私领域人士担心，法律中部分概念定义不够清晰，例如什么样的表达算是AI在暗示自己拥有情感，可能给企业执行带来困难，也可能影响正常的聊天互动。

值得注意的是，新法并不是禁止所有AI聊天机器人，也不是禁止成年人和AI进行情感化交流。它主要针对面向未成年人的AI陪伴功能，部分严格限定在客服、技术支持和企业内部用途的系统也有例外。

随着AI越来越多地进入青少年的日常生活，如何在保护未成年人和保留正常技术应用之间取得平衡，正在成为美国各州讨论的新议题。