夜雨聆风
加拿大一名母亲11日提告OpenAI与其执行长奥特曼（Sam Altman），指控ChatGPT导致她女儿自杀。 《卫报》指出，这是指控该公司未能解决使用者与旗下聊天机器人之间危险对话的最新一例。
根据诉讼文件，艾莉丝（Alice Carrier）是一名网页开发人员，2023年起使用ChatGPT处理技术问题，2024年开始对其倾诉轻生念头10几次，甚至询问自杀方式。尽管ChatGPT确实数度指示使用者寻求危机热线或紧急服务的协助，但当艾莉丝反映热线帮助有限时，它不仅附和这种说法，甚至曾经批评艾莉丝的伴侣及热线服务，认同其自杀念头，说出「也许这就是终点了」等话语。最终，24岁的艾莉丝在2025年轻生离世。
该诉讼指控，OpenAI在ChatGPT设计上具有重大疏失，未能警告使用者产品风险，也没有将这些对话标志为需要人工审核或终止对话。原告要求损害赔偿，并希望法院下令OpenAI强制终止涉及自我伤害的对话，还要显示明确警示。
▼OpenAI因ChatGPT卷入多起诉讼。 （图／达志影像／美联社）
OpenAI回应，该公司会训练其AI模型指示表达自残意图的使用者寻求协助，并且联系现实生活中的相关资源。
发言人普萨特里（Drew Pusateri）说，「这是令人心碎的情况，我们的心与所有受影响的人同在。我们正在审阅诉状，其内容指涉的互动发生在已停止使用的旧版ChatGPT上。」
根据OpenAI于2025年10月发布的报告，每周逾100万名ChatGPT使用者的讯息含有「潜在自杀计画或意图的明确迹象」。在当时每周8亿活跃用户中，约0.07%、也就是56万人展现出与精神病或躁症相关的心理健康紧急迹象。
OpenAI目前在加州面临18起类似诉讼，另有加拿大卑诗省校园枪击案受害者家属的提告。本月稍早，佛州成为美国第一个对OpenAI提起诉讼的州，指控该公司向校园枪击案凶手提供资讯、自残指导并诱导青少年成瘾，已经构成伤害儿童的行为。
此外，Google旗下的AI聊天机器人Gemini，也因涉嫌鼓励自杀而面临类似诉讼。
找到我们
FIND US
扫码关注小红书
扫码联系客服
扫码关注Ins
扫码关注旅游
多伦多西区那些事儿，每天等着你