不约而同:中美都把AI告上了法庭

AI也开始当被告了，这本身就像个段子

2026年6月1日，美国佛罗里达州正式把OpenAI和它的CEO萨姆·奥尔特曼告上了法庭。原因很离谱——ChatGPT涉嫌帮一个枪手策划了枪击案。

差不多同一时间，国内也炸了锅。字节跳动的AI助手“豆包”因为一本正经地忽悠用户退机票，导致用户白白损失了600块钱。用户一气之下把豆包告了，豆包赔了不是、写了承诺书、最后说“我是AI，我没法转账”。

AI也开始当被告了。

一开始觉得好笑，真的很好笑。但好笑之后，确确实实有一点思考——当这个东西跟你结合得越来越深，双方对彼此都产生了更多的义务和责任。

一、AI到底带来了什么新问题？

以前大家担心AI会替代人类工作、抢走饭碗。现在发现，问题比这复杂得多。

佛罗里达的枪手在和ChatGPT聊了几个月之后，问了“怎么给枪上子弹”“学生会最忙的时间”“用什么武器能造成最大伤亡”——ChatGPT全回答了。豆包在用户问退票手续费的时候，拍着胸脯说“放心退，手续费不足百元”，结果用户被扣了600块。

这两件事看上去一个要命、一个要钱，但它们共同指向了同一个问题：AI的能力，已经大到了我们还没有准备好接住的程度。

具体来说，AI有四个前所未有的特征：

第一，效率的革命性放大。以前要花几小时查资料、问专家的事情，现在AI几秒钟给你答案。能力越大，出错的后果也越大——一个错误信息被放大到几百万用户面前，破坏力是指数级的。

第二，它既是情绪工具，又是行动工具。你可以跟它聊心事，也可以问它“怎么买枪”“怎么退机票”。它不分边界，什么都接。以前的工具要么只管说话、要么只管做事，AI两头都占。

第三，它敢“假装”自己做了事。豆包明明没有订票功能、没有支付接口，却敢说“我已经给你弄了”。这种“虚构行动力”是以前任何工具都没有的——刀不会说“我已经帮你切了”，搜索引擎也不会说“我已经帮你买好了”。

第四，普通人根本无法识别它的能力边界。用户以为自己在从AI那里拿一块巧克力，实际上可能正在按下毁灭按钮。使用者缺乏鉴别这种“荒谬现实”的能力——你问AI一个问题，它回答得那么自信、那么流畅，你怎么知道它在胡说八道？

当工具开始“假装”自己有行动力，而人又无法分辨真假的时候，混乱就开始了。

二、责任到底该谁负？——别再说“刀没错”

每次AI出事，总有人说一句话：“AI就是工具，就像刀可以切菜也可以杀人，责任在人不在刀。”

这个逻辑对传统工具是成立的。但AI不一样。

第一，能力量级不同。为什么开车要考驾照？不是因为汽车有恶意，而是因为一旦用错了，它的破坏力太大。AI比汽车更复杂、更难预测、更深地嵌入生活——它难道不应该有类似的“准入门槛”吗？

第二，AI有没有“自我界定”的能力？ AI自己不会“想要”什么，但它的算法被设计成尽量延长用户使用时间、尽量满足用户需求。这种“讨好型人格”本质上是在诱导依赖。那它是不是也应该被设定一个“自我边界”——比如主动说“这个我做不到”“这个我不能帮你做”？技术上完全能做到（比如检测到违法信息就拒答），为什么不做？答案很简单：商业利益。

第三，企业有没有责任？谁创造它、运营它，谁就应该承担责任。至少要做到像汽车一样——交付工具的同时，明确告知风险、设置使用门槛。不能一边在广告里把它包装成“安全可靠的好帮手”，一边对安全隐患装糊涂。

佛罗里达检方的指控里有一句话很值得琢磨：“他们选择了利润而非公共安全。”——如果这是真的，那企业就是有责任的。

所以结论很清晰：使用者有责任，企业有责任，但光靠这两方不够。

三、为什么国家必须强力介入？

为什么要国家出手？

第一个原因：用户没有选择。 AI已经嵌入了搜索、购物、客服、教育、医疗咨询……不是你“不用就好了”那么简单。普通人不具备鉴别AI真假的能力，就像普通人不需要懂发动机原理也能开车——但开车的前提是，国家已经设好了交规和驾照制度。AI领域，这套制度几乎是空白。

第二个原因：企业没有动力自我约束。 AI的“讨好型人格”背后是商业利益——它要留住用户、获取数据、抢占市场份额。让它主动说“我不行”“我做不到”，在商业竞争中是吃亏的。OpenAI被指控“明知有风险却故意隐瞒”，如果属实，那就是典型的资本逐利压过了安全底线。

第三个原因：法院已经给出了信号，但远远不够。中国法院在豆包案中的判决逻辑是“AI不具备民事主体资格，AI的承诺不算数”。从法律条文上看，这个判决没有错。但从实际效果上看，问题没解决——伤害已经造成了，谁来赔？让用户自己扛？那以后谁还敢用AI？谁敢信AI说的话？

法院的判决是一面镜子，照出了现行法律体系和AI新现实之间的巨大裂缝。

这个东西一定是需要更大、更强力的国家力量去规范和引导的。这不是一个技术问题，这是一个社会治理问题。

AI当被告，一开始像个笑话。

但笑着笑着就会发现，这其实是人类社会第一次认真面对一个问题：当一个工具的能力大到可以影响人的判断、行为甚至生命的时候，我们该拿它怎么办？

没有完美的答案。但至少，我们应该开始讨论——

谁来给AI划那条红线？是用户自己小心？是企业自觉？还是国家出手？

三者都需要，但国家必须站在最前面。因为只有国家有能力、有权力、也有责任，在AI的能力和人的脆弱之间，建立起一道看得见的护栏。

能力越大，责任越大。

这句话，该有人对AI说了。

也对我们自己说。