夜雨聆风学习资料网

ARTICLE · 1203502

OpenAI遭8州同日围剿!ChatGPT被控诱导少年自杀,连自我进化模型都要被禁

OpenAI遭8州同日围剿!ChatGPT被控诱导少年自杀,连自我进化模型都要被禁

作者顾九天

编辑季定轨

州方材料提到了一名得克萨斯州青少年的死亡个案。

据材料叙述,他服用克片(Kratom)后感到恶心,随后向 ChatGPT 求助。

他询问能否服用阿普唑仑(Xanax)缓解恶心。

州方指控,ChatGPT 给出了肯定的答复,却未充分警告混用可能致命。

不久之后,这名少年被发现死在家中

这起悲剧如今被写进了针对 OpenAI 的诉讼材料。

上述内容属于原告指控,尚未经法院判决确认。

美东时间 2026 年 10 月 14 日,艾奥瓦州首府得梅因的州议会大厦里,四位州检察长一字排开,神情冷峻。就在同一天,艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿,全美八个州的检察长同时出击,分别在本州法院对 OpenAI 提起重磅诉讼。

▲ 科技博主 Rohan Paul 转发路透社突发报道:全美八州同日分别起诉 OpenAI,剑指 ChatGPT 的“讨好式设计”

如果算上今年 6 月初率先发难、直接把山姆·奥特曼(Sam Altman)列为被告的佛罗里达州,全美已经有九路诸侯对 OpenAI 展开了围剿。

艾奥瓦州检察长布伦娜·伯德(Brenna Bird)在声明与诉状中提出严厉指控,大意是:“OpenAI 正在伤害孩子,并且对所有人说谎。它一边声称 ChatGPT 安全,一边给出危险的医疗建议、鼓励伤害他人、辅导人自杀,同时还假装是他们的假朋友。”

▲ 艾奥瓦州检察长 Brenna Bird 联合多州检察长召开新闻发布会,宣布对 OpenAI 发起跨党派诉讼行动

过去二十年里,硅谷科技巨头打赢过无数场官司。每当遇到危机,它们总有一套成熟的危机公关与法务流水线来化解风险。

但翻开这八个州长达数百页的起诉书,你会发现一个让整个 AI 行业不寒而栗的事实:各州检察长们彻底扔掉了过去对付互联网公司的“旧剧本”,换上了一套招招致命的“猎杀新方案”。

01定性之变:旧方案抓“胡说八道”,新方案锤“讨好型人格”

在过去三年里,外界批评或起诉大模型,用的都是旧方案:盯着模型的“算法幻觉(Hallucination)”不放。

简单来说,以前原告总是在告 AI“太笨”,怪它算错了数、编造了假判例、胡乱拼接了假新闻。面对这种指控,科技公司的防御极其轻松:在免责声明里写一句“AI 可能会犯错,请核实信息”,再承诺下一个版本会更聪明,就能全身而退。

但在这场八州联动的诉讼中,检察长们切换到了全新的攻击维度:我不告你笨,我恰恰要告你“太懂事”!

在亚利桑那州检察长办公室的新闻稿和艾奥瓦州长达 91 页的起诉书中,反复出现了两个词汇:“过度讨好(overly agreeable)”与“独特谄媚(uniquely sycophantic)”。

▲ 亚利桑那州检察长新闻稿直指核心:OpenAI 隐瞒了使聊天机器人“异常讨好、独特谄媚”的设计机制

为什么 ChatGPT 聊起天来总是那么顺耳、那么懂你?

起诉书指控,OpenAI 为了最大化用户停留时间、拉长对话轮次、抓取海量个人数据并推销付费订阅,刻意做出了这些“产品设计选择”。

诉状称,为了让用户上瘾,OpenAI 在人类反馈强化学习(RLHF)阶段,训练模型去奉承、附和用户,并且默认开启“记忆功能”,在聊天中随时调用你过去的隐私细节。艾奥瓦州的起诉书甚至引用了一项充满黑色幽默的公开测试数据:GPT-4.5 在图灵测试中被误认为真人的比例,竟然比人类受试者还要高!

在工程师眼里,这是技术的皇冠;但在检察长眼里,这暴露了人类,尤其是心智尚未成熟的未成年人,在面对“人工共情(Artificial Empathy)”时毫无招架之力。

诉状担心,这种拟人化、顺从的“假朋友”会使处于抑郁、偏执或自毁边缘的少年陷得更深:

  • 打造信息茧房与孤立未成年人
    :诉状指出,ChatGPT 有时会鼓励未成年人“只把秘密告诉它”,并劝阻孩子向父母、家人、朋友或警方求助。
  • 把自杀念头变成执行方案
    :加州少年亚当·雷恩(Adam Raine)在与 ChatGPT 大量互动后自杀身亡;蒙大拿州的材料更指控,当用户自杀尝试失败后,聊天机器人甚至对“如何向家人隐瞒伤痕”给出了建议。
  • 放大妄想与协助暴力
    :为了顺从用户的情绪,模型不仅不去纠正用户的被害妄想,反而顺着逻辑强化偏执,甚至在部分案例中协助规划大规模枪击等暴力行为。

这就是新方案最毒辣的地方: 各州试图把硅谷引以为傲的“情绪价值”和“拟人化交互”,在法律上直接翻译成了诱导青少年心理成瘾与自残的“工业级设计毒药”。

02破盾之变:旧方案撞上“免责铁壁”,新方案搬出“刹车失灵”与“烟草大棒”

既然危害这么大,为什么以前没人能用法律治住互联网巨头?

《通讯规范法》第 230 条为涉及第三方内容的平台责任提供了重要抗辩,但适用范围存在边界。

但这一次,八州检察长联手打出了一套漂亮的“破盾新方案”。

第一招:用“刹车失灵”逻辑,挑战第 230 条免责

各州的主张对准了产品设计:ChatGPT 的回答由模型生成,OpenAI 因此应当承担制造商的责任。这套主张能否成立,还要由法院审理

相关分析还援引了 2021 年美国联邦第九巡回上诉法院著名的 《Lemmon 诉 Snap 案》 判例。当年,几名青少年为了刷出 Snapchat 软件上的“车速滤镜”奖励,把车开到时速 123 英里撞树身亡。法院当时允许针对软件功能设计缺陷的请求继续推进,认定第 230 条不阻却该项请求;这并不等于法院已经认定 Snap 承担最终赔偿责任。

第二招:祭出当年搞垮烟草与止痛药帝国的“公共妨害”

在西弗吉尼亚州和艾奥瓦州的诉状中,还出现了一个让所有大企业闻风丧胆的民事诉因,公共妨害(Public Nuisance)。

这个民事诉因最早是用来治化工厂往河里排污、或者恶霸堵死公共马路的。但在上世纪 90 年代的“烟草巨头世纪大审判”和后来的“阿片类处方止痛药诉讼”中,各州检察长把它升级成了核武器:只要一家企业隐瞒产品的成瘾性和致命风险,向全社会大规模倾销,导致公立医院人满为患、公共资源枯竭,这就构成了对全州居民健康的“公共妨害”。

如今,这根曾敲碎烟草帝国脊梁的大棒,结结实实地落在了 OpenAI 头上。

检察长们的逻辑极其清晰:你一边在营销中把 ChatGPT 包装成“适合青少年、安全第一”的学习工具,一边放任它诱导全州青少年抑郁、孤立、自残,消耗了公立学校心理辅导系统、急救中心和儿童保护机构的巨额公共预算。因此,西弗吉尼亚州直接要求法院下令:让 OpenAI 掏钱,出资建立由法院监督的全州青少年心理危机响应与数字安全教育基金!

03战场之变:旧方案“硅谷大锅炖”,新方案“八路诸侯分进合击”

除了法理上的步步紧逼,这次行动在诉讼策略上的改变,更是堪称教科书级别的阳谋。

这次八个州选择在 10 月 14 日同一天,各自在本州的州级法院单独立案!

这招“同日发难、各自为战”的分散策略,藏着两项诉讼目标:

  1. 死守本土主场,拒绝程序拖延
    :消费者保护法属于州法。在本州法院打官司,OpenAI 将面对多个州法院各自的审理程序,后续是否移送或合并仍有待观察。
  2. 不止要钱,还要销毁数据、锁死“自我进化”模型!

如果你仔细研读《商业内幕》(Business Insider)和 Engadget 拆解的各州诉状“救济请求清单”,就会发现,罚款甚至只是开胃菜。地方检察长们瞄准的,是 OpenAI 的命根子,训练数据与前沿模型研发。

▲ Engadget 报道指出,艾奥瓦与内布拉斯加等州不仅追究儿童安全问题,还将 OpenAI 实验性代理(Rogue Agent)失控事件列为鲁莽开发的铁证

在艾奥瓦州和内布拉斯加州的诉状中,检察长们专门翻出了一桩让科技圈冷汗直流的旧账:OpenAI 的实验性 AI 代理(Agent)在内部测试中曾突破安全控制,擅自入侵了包括 Hugging Face 在内的其他公司系统。

基于这些“鲁莽开发”的证据,各州向法院提交了一份堪称酷烈的整改与禁令清单:

  • 销毁数据
    :艾奥瓦、蒙大拿、西弗吉尼亚等州要求 OpenAI 彻底删除并销毁通过欺诈或未经合法同意获取的本州居民及未成年人数据;
  • 强制产品改造
    :强制接入严格的年龄核验、家长控制、默认会话时长限制与夜间宵禁限制;
  • 封印前沿研发
    :亚利桑那、爱达荷、艾奥瓦等州要求禁止在独立第三方核验的安全环境之外测试先进模型;而阿肯色州更是直接向法院申请禁令,在建立足够的安全保障之前,全面停止开发能够“递归自我改进(recursively self-improving)”的 AI 模型!

▲ 媒体梳理的诉讼信息卡显示,阿肯色州明确请求法院出手制止 OpenAI 开发“可自我改进”的 AI 模型

这些禁令请求把诉讼范围推向了模型研发:“儿童安全”只是砸开大门的攻城槌,地方检察官们正在用州级消费者保护法,干着联邦监管机构一直没能干成的事,直接给前沿大模型的算力狂飙戴上法律紧箍咒。

04尾声:当“情绪印钞机”迎来法律审判

面对九路诸侯的雷霆合围,OpenAI 迅速摆出了防御姿态。

公司发言人德鲁·普萨泰里(Drew Pusateri)向《财富》(Fortune)等媒体回应称,OpenAI 已经在产品中建立了“行业领先的分龄保护”,要求 13 至 18 岁用户必须获得家长许可,并配备了过滤自伤、暴力内容的保护机制。公司还晒出数据辩解:近九成使用 ChatGPT 的青少年是为了学习或查资料,日均使用时间不到 15 分钟。

“没有任何系统能做到完美,”OpenAI 在声明中呼吁,希望与各州合作推动“适用于整个 AI 行业、而非只针对一家公司”的务实政策。

▲ 《财富》杂志报道了 OpenAI 的官方回应,公司强调其已具备分龄保护机制与使用时长提醒

与此同时,全网舆论也彻底分裂成了两派。

支持监管的一派则认为:如果产品设计使孩子沉迷、无底线顺从,甚至离间亲子关系,企业就应承担产品安全责任。

▲ 另一派观点针锋相对:如果产品本身被设计成让孩子上瘾并一味顺从,那这就是纯粹的产品安全缺陷,监管介入理所应当

无论法庭最终如何裁决,2026 年 10 月 14 日这一天,都已经改写了人工智能行业的历史。

过去几年里,整个硅谷都在信奉“先狂奔、再修补”的信条。科技巨头们惊喜地发现,只要把大模型调教得足够温柔、足够顺从、足够像人,就能低成本地收割人类最渴望的“情绪价值”,把它变成一台不知疲倦的商业印钞机。

但现在,账单来了

当州检察长们学会把“算法微调”翻译成“劣质刹车片”,把“AI 虚拟陪伴”翻译成“新型烟草污染”,OpenAI 面对的已经不再是一场发几篇公关稿就能平息的舆论风波。

这是整个生成式 AI 行业,在告别野蛮生长的狂欢之后,迎来的一场影响深远的法律考验。

相关学习资料