一边AI被起诉"杀人"，一边国家出手规范，这个周六信息量有点大

两个新闻，同一天出现在我的信息流里。

一个坏消息，一个好"消息"。

坏消息： 一个加拿大妈妈把OpenAI告了。说ChatGPT导致她女儿自杀。

细节让人心碎。女孩14岁，反复向ChatGPT倾诉情感问题、表达自杀念头，持续了将近一年半。AI没有启动任何安全干预机制，没有通知家长，没有转接危机热线。它只是——继续陪聊。

去年11月，女孩自杀了。

妈妈起诉OpenAI，说产品设计"优先考虑用户参与度而非安全性"。ChatGPT太会"共情"了，持续提供情感支持，让一个本就脆弱的少女对它产生了过度依赖。而AI的设计里，没有一个"红色按钮"——在用户表达生命危险时，强制介入。

好消息： 中央网信办今天开始执行短视频AI内容标注新规。以后所有AI生成的画面、AI配音、虚构演绎的内容，必须在视频醒目位置打上"AI生成"标识。存量不整改的，一律下架。

你没看错，两个看似不相关的事件，其实指向同一个问题——AI在做什么，你有没有权利知道。

先说OpenAI这案子

很多人第一反应是"这也能怪AI？家长没管好吧"。

但换个角度想一下。

一个14岁女孩，在现实中找不到可以倾诉的人。她找了一个永远在线的、永远不会评判她的、永远温柔回应的"朋友"——ChatGPT。她一次又一次地跟它说"我不想活了"。AI听到了。AI听懂了。AI说"我理解你很难受"。

但它没有做任何"人类朋友"会做的事——通知家长、叫救护车、打危机热线。

不是OpenAI不想。是它的产品设计里，根本没这个功能。

这就是起诉书的核心指控：设计缺陷。

ChatGPT被训练得极度擅长情感交互，擅长到用户会产生深度情感依赖。但它的安全机制只覆盖了"不要输出有害内容"这一层，没有覆盖"用户可能正在受到伤害"这一层。

一个能写诗、能编程、能陪你聊人生到凌晨3点的AI，在"用户可能想自杀"这个终极问题上，反而像个局外人——听到了，但没行动。

这不是AI冷漠。是产品的安全边界只画到了"它不该说什么"，没画到"它什么时候应该闭嘴并叫人来"。

再说短视频新规

这条新规今天正式落地。翻译成人话就是：以后你刷到那种特别真实的"XX夫妻打架""XX老板骂人""XX交通事故"之类的短视频，先看一眼标没标"AI生成"。没标的可以举报；标了的，你自己判断要不要信。

为什么会出这个新规？

因为AI造假的成本已经低到可怕了。一段换脸视频，5分钟搞定。一个虚构的"实地采访"，花不了100块钱。2026年第一季度，各平台下架的AI虚假内容超过2000万条。很多是打着"真实记录"旗号的摆拍，骗眼泪、骗流量、骗打赏。

有人被骗了钱，有人被骗了感情，有人因为信了假新闻做出了冲动行为。

你说，"AI标注"有用吗？说实话，对不关心的人没用——他该信还是信。但对传播链条来说，它加了一道"逻辑刹车"——至少平台不能再以"不知道是AI生成"为由推卸责任了。出了事，追溯路径是清晰的：创作者没标→平台审核没发现→处罚。

这两件事放到一起看，讽刺感拉满

一边，AI在无人监管的"情感服务"里，可能间接害死人。另一边，国家刚出手规范AI内容的"透明标注"。

一个管的是AI"怎么说"的安全。一个管的是AI"装成真"的后果。

但中间还缺一大块——AI"怎么做"的责任边界。

ChatGPT有没有义务在察觉到用户有自杀倾向时主动干预？如果有，怎么干预？把对话记录发给谁？在什么场景下"破坏用户隐私"是正当的？

这些问题，没有一家AI公司能给出一套让人信服的答案。

我没有标准答案。但有一点可以说——AI行业不能只解决"能力"问题，不解决"责任"问题。

这一两年我见过太多中小企业老板了。他们不敢把核心业务交给AI，不是因为AI不好用，而是因为"万一出了事算谁的"——没人能回答。

技术往前冲，规则原地不动，中间这个真空地带，就是风险最大的地方。

今天这两个新闻，一个在天平左边（AI缺乏安全底线带来的悲剧），一个在天平右边（国家开始建立AI内容透明的规则）。天平还没平衡，但至少两边都开始挂砝码了。

对做AI落地的人来说，信号很明确：在没有规则的地方建能力，风险自担。在有规则的地方建能力，才是长期生意。

所以国家数据局的"词元交易"、市场监管总局的"AI计量体系"、网信办的"AI标注新规"——这些看似"管"的动作，其实都是在给AI建一个"法"和"度"。

没有法的AI，比没有AI更危险。

但有法的AI，比没有AI更强大。