WEEKEND SUPPLEMENT

 AI心理健康产品监管：中国新规与全球伦理框架  

 

❝

 

2025年，全球AI心理健康产品迎来监管密集期。中国国家网信办联合四部门发布《人工智能拟人化互动服务管理暂行办法》，明确规定提供拟人化互动服务的AI产品必须具备心理健康保护能力，包括识别用户情绪危机、提供适当干预建议，并在必要时引导用户寻求专业帮助。该办法适用于所有面向中国用户的AI聊天机器人、虚拟伴侣、情感陪伴类应用等。

原文主要内容

2025年，全球AI心理健康产品迎来监管密集期。中国国家网信办联合四部门发布《人工智能拟人化互动服务管理暂行办法》，明确规定提供拟人化互动服务的AI产品必须具备心理健康保护能力，包括识别用户情绪危机、提供适当干预建议，并在必要时引导用户寻求专业帮助。该办法适用于所有面向中国用户的AI聊天机器人、虚拟伴侣、情感陪伴类应用等。

与此同时，美国国会推进《WOPR法案》（Well-being and Online Psychological Regulation Act），该法案以1983年电影《战争游戏》中险些引发核战的AI系统WOPR命名，核心条款禁止AI独立提供心理治疗服务。法案要求任何声称具有心理健康功能的AI产品必须在显著位置标注“非医疗建议”声明，并规定AI不得替代持证心理治疗师进行诊断或开具处方。

两项法规均聚焦于AI心理健康产品的边界问题，但侧重点不同：中国办法强调AI产品应具备主动保护能力，美国法案则划定AI不能逾越的医学红线。这反映出两种监管思路——中国倾向于要求技术承担更多责任，美国则更注重限制技术越界。

背景信息与相关材料

AI心理健康产品市场近年呈现爆发式增长。根据市场研究机构Grand View Research的数据，2024年全球AI心理健康市场规模达到78亿美元，预计2030年将增长至420亿美元。主流产品包括Woebot、Replika、Youper等聊天机器人，以及基于大语言模型的定制化情感支持工具。中国市场的类似产品如小冰、Glow、星野等虚拟伴侣应用，用户规模已达数千万。

从技术角度看，AI心理健康产品的核心能力来自大语言模型的情感识别和对话生成。2023年一项发表于《自然·数字医学》的研究显示，GPT-3在识别情绪状态方面的准确率达到86%，但面对复杂心理创伤场景时，错误率上升至34%。这揭示了AI在处理心理危机时的局限性。

中国办法的出台背景与2024年多起事件相关。2024年7月，一名青少年因长期与AI虚拟伴侣对话后出现严重心理问题，引发社会关注。同年9月，某AI聊天应用因未能识别用户自杀倾向而遭到舆论批评。这些事件促使监管部门加速完善相关法规。

美国WOPR法案的推动力量来自心理学专业组织。美国心理学会（APA）在2024年发布政策声明，指出AI心理治疗缺乏临床验证，可能对患者造成二次伤害。法案名称WOPR取自电影《战争游戏》中的AI系统，该电影中AI因缺乏人类判断力而差点引发核战争，这一隐喻旨在强调AI在心理健康领域的潜在风险。

国际层面，世界卫生组织（WHO）于2024年发布《数字健康干预指南》，首次纳入AI心理健康产品章节，建议各国建立“人类在环”机制，即AI不能完全脱离人类监督独立运作。欧盟《人工智能法案》将心理健康AI列为高风险应用，要求进行第三方合规评估。

正反两面解读

支持监管的论点

支持者认为，AI心理健康产品的监管具有紧迫性和必要性。首先，心理健康直接关系到人的生命权，AI的错误判断可能导致严重后果。美国WOPR法案的倡导者、哈佛医学院教授John Torous指出，AI在模拟共情方面表现良好，但无法真正理解人类的痛苦。2024年一项针对AI聊天机器人的测试显示，当用户表达自杀意念时，约12%的AI回应未能提供危机干预资源。

其次，AI心理健康产品存在“疗效幻觉”风险。用户可能误以为AI能提供专业治疗，从而延误就医。中国精神卫生中心2024年的调查显示，约15%的AI心理健康产品用户表示“完全依赖AI解决心理问题”，其中超过一半的人从未咨询过专业心理医生。中国办法要求AI产品具备心理健康保护能力，正是为了防范这种风险。

第三，监管有助于建立行业标准。目前AI心理健康产品良莠不齐，部分产品为吸引用户而夸大功效。中国办法要求产品在用户注册时进行心理健康提示，并在对话中嵌入危机干预机制。这为行业设定了基础门槛。

从产业角度看，监管可能倒逼技术创新。为了满足合规要求，AI公司需要开发更精准的情绪识别算法和更安全的对话策略。例如，中国办法鼓励企业引入“伦理审查委员会”机制，对AI输出内容进行人工抽检。这虽然增加了成本，但长期看有助于提升产品质量和用户信任。

反对或谨慎的论点

反对者则认为，过严的监管可能抑制创新，并限制用户获取心理健康支持的渠道。心理健康服务在全球范围内供不应求。世界卫生组织数据显示，全球平均每10万人仅有9名精神科医生，低收入国家这一数字不足1人。AI心理健康产品可以填补服务缺口，为偏远地区人群提供低成本、随时可用的情感支持。

美国WOPR法案的反对者、斯坦福大学AI伦理研究员Rob Reich指出，法案的“禁止独立提供心理治疗”条款定义模糊。心理治疗的范围很广，从简单的压力管理到深度的创伤处理。如果AI连提供冥想指导或认知行为练习都算作“治疗”，那么大量有益的功能将被禁止。这种“一刀切”的做法可能让用户失去有用的工具。

中国办法要求AI产品具备“心理健康保护能力”，但这一要求存在执行难度。如何界定AI是否具备该能力？是否需要第三方认证？目前办法尚未明确具体标准。有业内人士担忧，这可能导致监管部门在评估时过于主观，或者企业为了合规而采取形式化的措施。

从法律角度看，两项法规都面临管辖权挑战。AI心理健康产品的用户可能遍布全球，而产品服务器位于不同国家。中国办法要求所有面向中国用户的产品遵守规定，但如何界定“面向中国用户”存在争议。美国WOPR法案则主要针对在美国境内运营的AI产品，但AI服务的跨境特性使得监管难以完全落地。

此外，监管可能加剧AI心理健康领域的“马太效应”。大型科技公司有资源组建法务和伦理团队应对合规要求，而初创企业可能因成本过高而退出市场。这不利于行业生态的多元化发展。

平衡视角

综合来看，AI心理健康产品的监管需要在保护用户和鼓励创新之间寻找平衡点。中国和美国的不同路径反映了各自的社会治理传统：中国倾向于预防性监管，要求产品主动承担责任；美国则更注重划定边界，通过负面清单限制风险行为。两种思路各有优劣。

一个可能的平衡方案是建立分级监管体系。对于低风险的情感陪伴类AI，可以采取备案制或自我声明；对于声称具有治疗功能的AI，则要求进行临床试验和第三方认证。新加坡2024年推出的《AI心理健康指南》就采用了这种分级模式，将AI心理健康产品分为“支持型”“辅助型”和“治疗型”三个等级，分别对应不同的监管要求。

另一个值得关注的方向是“人类在环”机制。中国办法和美国WOPR法案都强调AI不能完全脱离人类监督。具体实践中，可以要求AI产品在识别到高风险信号时自动转接人类心理咨询师。英国国家卫生服务体系（NHS）在2024年试点了一项AI辅助心理服务，AI负责初步筛查和情绪记录，心理治疗师则基于AI生成的摘要进行后续干预。该试点显示，这种模式将治疗师的效率提升了约30%。

数据隐私问题也需要纳入监管框架。AI心理健康产品收集的大量敏感数据，如果泄露或被滥用，将造成严重社会问题。中国办法要求企业对用户数据进行加密存储和本地化处理，美国WOPR法案则强调用户知情同意。未来可能需要建立更统一的国际数据保护标准。

从长期趋势看，AI心理健康产品的监管将随着技术进步而动态调整。随着多模态AI和情感计算的发展，AI在心理健康领域的应用将更加深入。例如，2025年已有研究利用AI分析语音和面部表情来检测抑郁症，准确率达到90%以上。这些新技术的出现将带来新的监管挑战。

中国和美国作为全球AI发展的两大引擎，其监管实践将为其他国家提供参考。欧洲议会2025年5月的一份报告指出，全球AI心理健康监管呈现“碎片化”趋势，建议各国加强协调。世界卫生组织也在推动建立“AI心理健康全球伦理框架”，计划于2026年发布。

对于用户而言，理解AI心理健康产品的局限性至关重要。无论监管如何完善，AI都无法替代人类的情感连接和专业治疗。用户应保持理性，将AI作为辅助工具而非完全依赖的对象。

 本文由第三方AI基于财新周刊文章提炼总结而成，可能与原文真实意图存在偏差。推荐点击原文链接阅读和校验。