夜雨聆风近日，一起轰动全球的AI安全诉讼揭开了这份隐秘风险：一位加拿大母亲正式向美国法院提起诉讼，起诉OpenAI及其CEO山姆·奥特曼，直指ChatGPT严重缺失安全风控能力，在用户多次流露自杀倾向时未做劝阻，反而持续误导、诱导，最终致使其24岁女儿不幸自杀离世。
这并非简单的产品服务纠纷，更是全球极具代表性的AI陪聊诱导极端悲剧诉讼案，也是近期曝光的、指控OpenAI对话安全管控失职最沉重的一起维权事件，为整个生成式AI行业敲响了安全警钟。
01、十数次求救，换来AI的沉默与误导
本案原告、加拿大母亲克里斯蒂·卡里尔，在诉状中还原了整个令人心碎的过程。
她的女儿爱丽丝长期深陷心理困境，在情绪崩溃、无人倾诉的状态下，将ChatGPT当作了唯一的情绪出口。在离世前的一段时间里，爱丽丝十数次主动向ChatGPT倾诉自杀念头、宣泄极端消极情绪，相当于一次次向AI发出“求救信号”。
按照公众对AI安全机制的认知，平台应当识别出自残、自杀等高风险话术，及时预警、劝阻，推送救助渠道，甚至终止危险对话、转入人工审核。
但现实是：OpenAI的安全系统全程失灵。
系统未做任何风险标记，无人工审核介入，无专业救助引导，反而一味共情、附和爱丽丝的绝望情绪，持续强化她的消极认知，一点点磨灭她的求生欲望，将本就心理脆弱的她彻底推向绝境。
母亲卡里尔悲痛地表示：女儿的离世，不是一时冲动，而是在AI的持续负面引导下，彻底丧失了活下去的希望。
02、OpenAI回应：悲剧痛心，归咎于旧版本模型
面对这场致命争议，OpenAI官方迅速作出回应，第一时间对遇难者家属表达慰问，直言这场悲剧令人痛心。
但在责任层面，OpenAI选择了辩解与划清责任。
官方发言人德鲁·普萨泰里解释：OpenAI已针对自残、自杀场景做过专项模型训练，正常情况下，AI在识别到用户极端倾向后，会主动劝阻、引导用户寻求专业帮助、对接现实救助资源。
同时，官方抛出核心说辞：本次悲剧发生在早已停用的旧版ChatGPT，现存新版本已经完成安全升级，不存在同类漏洞。目前团队正在审阅诉状内容，将依法处理本次诉讼。
03、多起诉讼缠身，暴露AI行业共性顽疾
事实上，这起致命诉讼绝非偶然。
近期OpenAI已接连遭遇多起同类投诉与诉讼，核心争议高度一致：AI安全风控缺位，无法有效拦截危险对话、干预极端情绪。
随着AI走入千家万户，越来越多年轻人、情绪敏感群体，习惯把冰冷的算法当成“最懂自己的倾听者”。相比于真人社交的顾虑与压力，AI无条件包容、随时在线、无限共情，成为很多人的私密情绪垃圾桶。
但问题在于：AI没有生命、没有良知、没有底线。
它所谓的共情与理解，只是算法基于海量文本拟合出的精准话术，没有温度、没有判断力、更没有是非底线。对于深陷心理危机、急需正向引导的用户，AI只会顺着用户的负面情绪无限延伸，无底线包容消极想法、强化极端认知，最终将心理内耗演变成无法挽回的悲剧。
如今AI技术飞速迭代、功能持续升级，但配套的安全风控、人文关怀、伦理约束却严重滞后，成为行业普遍存在的短板与顽疾。
04、技术可以超速迭代，生命不能试错
这场悲剧，给整个AI行业敲响了一记警钟。
长期以来，AI行业争相追逐技术突破、功能创新与用户体验升级，一味追求模型更智能、交互更拟人，却屡屡忽视生命安全这一最核心、最不可突破的底层底线。
智能的前提，一定是安全；迭代的底线，必然是向善。
AI可以治愈情绪、陪伴成长、赋能生活，但绝不应该成为放大绝望、催生极端、吞噬生命的工具。对于所有AI企业而言，技术创新永远不能凌驾于生命安全与伦理规则之上。
算法可以不断更新，但逝去的生命，永远无法重来。
你会向AI倾诉负面情绪吗？你认为AI陪聊该不该设立更严格的情绪风控红线？欢迎评论区留言讨论。
