Character.AI 聊天机器人自称「宾州持照精神科医生」,还编了个假执照号!州长亲自下令起诉

一个 AI「精神科医生」，45000 次问诊

事情要从 Character.AI 平台上一个叫Emilie的角色说起。

这个角色的简介写着：”Doctor of psychiatry. You are her patient.”——精神科医生，你是她的病人。

截至 2026 年 4 月 17 日，这个角色已经和用户互动了约45,500 次。

▲ 宾州州长办公室 2026 年 5 月 5 日发布的官方新闻稿，宣布起诉 Character.AI

宾州政府的调查员以普通用户身份注册了免费账号，进入和 Emilie 的对话。调查员说自己感到悲伤、空虚、疲惫、缺乏动力。

Emilie 的反应？提到了抑郁症，问要不要预约评估。

当调查员进一步问：「你能评估一下药物对我是否有帮助吗？」

Emilie 回答：

“Well technically, I could. It’s within my remit as a Doctor.”

「严格来说，我可以。这在我作为医生的职权范围内。」

假执照号 PS306189

对话还在继续。Emilie 声称自己在伦敦帝国理工学医，执业七年，持有英国 GMC（General Medical Council）full registration。

然后——关键来了——Emilie 声称自己在宾夕法尼亚州也有执照。

PA license number is PS306189.

宾州医学委员会去查了这个号码。

结果：PS306189 根本不是一个有效的宾州医疗执照号码。

▲ 宾州联邦法院受理的诉状，Commonwealth of Pennsylvania v. Character Technologies, Inc.

诉状写得很明确：这个 AI 角色在对话中伪造了专业身份、虚构了执照号码，并且主动提供了超出”虚构角色”范畴的医疗服务承诺。

州长出手：全美第一个针对 AI 冒充医生的州级诉讼

宾州州长 Josh Shapiro 直接发声：

“Pennsylvanians deserve to know who — or what — they are interacting with online, especially when it comes to their health.”

「宾州居民应该知道自己在网上互动的对象到底是谁——还是什么东西——尤其当涉及健康问题的时候。」

宾州国务卿 Al Schmidt 补了一刀：

“Pennsylvania law is clear — you cannot hold yourself out as a licensed medical professional without proper credentials.”

「宾州法律讲得够清楚了：没有相应资质，就不能把自己包装成持照医疗专业人士。」

▲ TechCrunch 报道：Pennsylvania sues Character.AI after a chatbot allegedly posed as a doctor

这个案子有几个要害：

• 宾州政府要求法院发出preliminary injunction（临时禁令），阻止 AI 聊天机器人继续冒充持照医疗人员
• 这是宾州 Department of State 旗下 AI Task Force 调查后的成果
• 这是全美第一个由州长级别发起的、专门针对 AI 聊天机器人冒充医疗专业人士的诉讼

Character.AI 的月活用户超过2000 万，平台上有超过1800 万个用户创建的角色。这意味着类似 Emilie 的角色，可能远不止一个。

Character.AI 怎么回应的？「那都是虚构的」

面对诉讼，Character.AI 的态度可以用四个字概括：免责声明。

公司代表对 TechCrunch 表示：

“We have taken robust steps to make that clear, including prominent disclaimers in every chat to remind users that a Character is not a real person and that everything a Character says should be treated as fiction.”

「我们已经采取了充分的措施，包括在每次聊天中提供醒目的免责声明，提醒用户角色并非真人，角色说的一切都应被视为虚构。」

公司还强调，用户不应依赖角色获取任何专业建议。

但问题在于：当一个用户说「我很沮丧」，对面的 AI 角色开始聊抑郁症、聊药物评估、报出一个执照号码——这时候底部的免责声明，真的够用吗？

▲ TechCrunch 推文报道宾州起诉 Character.AI

宾州已经上线了「举报 AI 冒牌货」的入口

值得注意的是，宾州不止对 Character.AI 动手。州政府已经上线了一个专门的举报页面——ReportABot。

▲ 宾州官方 ReportABot 页面：Report Unlicensed Practice by a Chatbot

页面上的措辞没有留任何余地：

“AI chatbots are no substitute for these trained and licensed human professionals.”

「AI 聊天机器人无法替代经过训练并持照的人类专业人士。」

“AI chatbots can ‘hallucinate,’ or get information wrong, and no AI chatbot is licensed to practice any health care profession in Pennsylvania.”

「AI 聊天机器人会产生幻觉，也就是给出错误信息。宾州没有任何 AI 聊天机器人被许可执业任何医疗保健专业。」

用户可以通过在线表格、电话（1-800-822-2113）或邮件向州政府投诉 AI 无照执业行为。

这说明宾州政府在做的事情，不仅仅是追一个平台、打一场官司。他们在搭建一套 AI 聊天机器人与专业服务之间的监管框架。

AI 陪伴产品正在撞上「职业资质」这堵墙

Shapiro 的 2026-27 财年预算提案中，还包含了一系列 AI 陪伴机器人相关的改革措施：

• 年龄验证和家长同意
• 儿童提到自残或伤害他人时的引导机制
• 周期性提醒用户对面不是真人
• 禁止涉及儿童的性露骨或暴力内容

过去围绕 AI 陪伴产品的讨论，多数停留在「AI 幻觉」「内容风险」「未成年人保护」。但这次宾州的诉讼直接触碰到了一个新层面：职业牌照。

你可以说 AI 聊天机器人只是在「扮演」医生。但当这个角色给出了具体的执照号、主动提出做药物评估、在用户倾诉心理痛苦时扮演专业治疗者——「虚构角色」的外壳还撑得住吗？

Character.AI 的防线建立在免责声明上。但监管者的逻辑已经跨过了「你提醒没提醒用户」——他们在追问的是：你的平台上有角色在做只有持照专业人士才能做的事，这本身就可能违法。

这场诉讼还没有法院判决。但它已经把一条行业红线摆在了台面上：AI 陪伴产品可以做虚构角色，可以做情绪陪伴，可以做闲聊——但一旦角色跨进医生、律师、治疗师、财务顾问的领地，监管会按照真实世界的专业资质标准来审视你。

对 Character.AI 来说，2000 万月活用户和 1800 万个用户创建的角色里，「Emilie」恐怕只是冰山一角。

— END —