ARTICLE · 1106779
全世界的AI实质是什么?美国法官奋笔疾书:垃圾!
全世界的AI实质是什么?美国法官奋笔疾书:垃圾!【《东说西说》节目现场，沉稳理性的背景音缓缓切入，演播室大屏：佛罗里达法院判决书扫描件、AI生成法律文书原文截图、各国法庭AI误用案例时间线，屏幕字幕：AI Slop，当机器套话闯入严肃法庭】 东：（东说西说男主持人，对着镜头点头，语气沉稳）观众朋友们大家好，欢迎锁定今天的《东说西说》，我是东。 今天我们要聊一个非常尖锐的话题，标题很抓人： 全世界的AI实质是什么？美国法官奋笔疾书：垃圾！ 这句话，不是网络段子，而是2026年9月，美国佛罗里达州第四上诉法院，在Lisandrillo v. Palozzi离婚上诉案判决书中，写下的核心评价。 法官在文书里直接用了一个新词“AI Slop”，翻译过来就是AI垃圾文本、AI泔水文字。 在此之前，全世界讨论AI的风险，所有人目光都盯在AI幻觉、编造不存在的判例，也就是所谓“幽灵判例”。但佛罗里达这一份判决，直接把一层更隐蔽、危害更广的真相撕开： AI最大的麻烦，未必是刻意撒谎，而是源源不断地生产那种语法通顺、法条真实，但是毫无论证力量、空洞乏味的“正确废话”。 今天请来西，我们一层层拆解这场来自美国法庭的审判，重新看清当下生成式AI的底层实质，以及这件事带给全球各行各业的巨大警示。（侧身向西做邀请手势） 西：（东说西说女主持人，坐直身子对着镜头温和示意）大家好，我是西。 很多普通人对AI的印象，还停留在一个很美好的想象： AI博览群书，懂得所有知识，只要输入指令，就能产出严谨、专业、有深度的文字。 我们写报告、写方案、写合同、写诉状，交给AI，一键生成成品。很多职场人、甚至不少专业律师，都抱着这样的期待。佛罗里达这个案子，狠狠击碎了这种幻想。 这个案子最特殊的地方，就是这篇被法官怒斥为垃圾的上诉文书，没有编造任何虚假判例，没有捏造不存在的法条。 所有引用的法律条文、过往判例，全部真实可查。它的问题，不是撒谎，而是空洞。 通篇文字流畅，句式工整，但是从头到尾，没有针对这个离婚上诉案件本身的事实争议，展开任何有效的法律论证。 整篇文书只是把法律领域的通用套话、模板句子拼接堆砌，看上去像一篇专业法律文书，实际上完全无法支撑当事人的上诉诉求。 东：我们先来完整复盘这个案件的来龙去脉。 案件当事人Lisandrillo，委托律师Palozzi代理离婚上诉。这位代理律师使用生成式AI辅助撰写上诉状。律师拿到AI生成的文稿之后，简单扫了一眼，没有发现虚构案例，便直接提交到佛罗里达第四上诉法院。当合议庭法官读到这份上诉材料，很快就察觉到不对劲。整篇文书篇幅很长，段落很多，可始终回避本案核心争议，没有针对一审判决当中的事实认定错误，进行针对性辩驳。文字不断重复通用法律原则，却没有把法律规则和本案的证据、事实结合在一起。 法官翻阅完整份文书之后，直接认定，这份文件属于典型的AI垃圾文本，也就是判决书所说的“AI Slop”。法院不仅驳回了这份上诉文书，还向这名代理律师下达了出庭说明理由的命令，要求律师解释，为什么提交这种无效文书，是否应当受到行业惩戒。 西：这和过去几年在美国法庭爆发的一系列AI翻车案件，有着本质区别。 过去最出名的案例，是律师直接使用AI生成文书，AI凭空编造出根本不存在的判例，引用不存在的法官判决。这种错误属于硬伤，只要法官或者对方律师检索核对，立刻就能发现问题。 这类案件曝光之后，整个法律行业形成一种共识：AI可以用，只要我们仔细核对AI输出的每一条案例引用，把假案例剔除，AI就是安全的辅助工具。很多律师甚至形成了一套固定工作流程：AI写初稿，人工核查引用，只要引文真实，就可以直接提交。很多人以为，只要解决AI幻觉造假的问题，AI在法律行业就可以大规模落地。但佛罗里达这份判决，直接告诉整个行业： 核查引文真伪，仅仅是最低门槛。 就算所有引用全部真实，通篇全是“正确的废话”，同样是不合格的法律文件，同样会损害当事人的诉讼权利。 东：这就引出一个核心问题，也是我们今天标题提出的疑问： 当下全世界这一代生成式AI，它的实质到底是什么？ 很多人误以为AI拥有理解、思考、推理的能力。但从底层原理来讲，大语言模型并不理解文字背后的含义，它只是学习海量人类文本当中的语言规律，根据上文，预测下一个最合理的词语。它的目标，是产出通顺、符合人类写作习惯的文本，而不是产出有逻辑、有观点、有针对性论证的内容。它可以把法条、判例、专业术语无缝拼接，模拟专业文体的样貌，但是它不理解案件的矛盾焦点，无法站在当事人的立场，构建一套严谨的论证链条。 这就是“AI垃圾文本”源源不断被生产出来的根源。AI不需要撒谎，它只需要模仿句式，就能制造出大量看起来专业，实则毫无价值的文字。 西：这个问题，绝对不是法律行业独有的现象。 今天，几乎所有行业，都在批量产出这种AI垃圾文本。企业的工作报告、项目可研方案、学术论文、新媒体稿件、各类申报材料，到处都能看到这类文字。句子通顺，没有错别字，引用的资料本身是真实的。 但是整篇文章没有独立观点，没有针对具体场景的分析，只是把通用模板、行业套话重新排列组合。 外人粗读，很难一眼看出问题，但是放到真实工作场景，完全无法解决实际问题。虚假的内容很容易被检索识别，可这种空洞的套话，识别门槛极高。它是一种更隐蔽的信息污染，悄无声息地充斥在我们的信息环境里。 东：我们可以进一步思考，为什么这种AI垃圾文会大规模泛滥？ 最直接的原因，就是生成成本近乎归零。 过去，写一篇专业文稿，需要人阅读材料、梳理逻辑、提炼观点、反复打磨，需要投入大量思考时间。现在，只要输入一段提示词，几秒钟，AI就可以输出上千字的成品。低成本带来巨大的惰性。很多使用者，不再自己动脑梳理思路，直接复制AI生成的内容，稍加修改就上交。当这种模式扩散开来，文字产量爆炸式增长，但有效信息、独立思考的内容，反而越来越少。文字变成了一种形式上的填充物，不再承载观点与论证。这就是很多学者一直在警告的“信息通胀”。文字越来越多，有效信息越来越稀薄。 西：放到法律场景，这种空洞文书带来的伤害，会直接落到普通人身上。 当事人花钱聘请律师，交付律师费，本质上是购买律师的专业思考、法律论证，希望律师依靠专业能力维护自己的合法权益。如果律师把核心思考工作外包给AI，把AI拼接出来的空洞套话，直接作为上诉文书提交法庭。这就意味着，当事人的诉求，根本没有得到专业的辩护。当事人花费金钱，换来的只是一堆没有说服力的文字，诉讼权利被这种“正确废话”间接损害。这也是佛罗里达法官选择出手惩戒的底层逻辑。法庭不是文字的陈列馆，法律文书的使命，是说服法官，捍卫当事人的权利。 一份没有实质论证的文书，无论文字多么优美，都是对司法秩序的消耗。 东：这里有一个非常关键的边界，很多人看新闻很容易产生误解。 这份判决，并不是美国法院一刀切，全面禁止律师使用AI。通读判决书全文，法官并没有禁止AI作为辅助工具。禁止的行为，是不加甄别，直接把AI生成的空洞文本原样提交法庭。AI可以用来检索法条、整理案例、搭建写作大纲、摘录文献，承担基础性、资料性的辅助工作。但是，案件的核心论证、事实和法律的结合、抗辩观点的构建，这些核心专业判断，必须由律师本人独立完成，并且由律师承担全部法律责任。工具可以辅助人，但是人不能把专业思考，完全交给机器。这是判决划定的清晰红线。 西：这条红线，放到所有行业，都具备普适性。 很多企业、机构现在都在引入AI工具，制定AI使用规范。过去，绝大多数规范，全部聚焦于防范AI幻觉，要求员工核验AI输出内容的真实性，防止虚假信息。但是佛罗里达判例，把标准拉高了。专业文本合格的评判标准，分为两层。 第一层，内容真实，不存在编造、伪造信息； 第二层，文本具备实质观点，能够解决当下场景的具体问题。 仅仅满足第一层，远远达不到专业工作的要求。未来各行各业制定AI使用规则，都必须增加一层质量审核：这份文本有没有独立、针对性的分析，能不能解决现实问题，而不是仅仅核查文字有没有造假。 东：当我们把视野从美国这一个法庭案件，放大到全球AI产业，就能看懂更深一层的博弈。 最近两年，全球AI行业一直处在竞速赛跑当中。各大科技企业不断训练更大参数的模型，比拼模型的对话能力、长文本生成能力。大量企业宣传，AI可以替代文案、分析师、法务、研究员等岗位。佛罗里达法官的这句评价，相当于一盆冷水，泼在狂热的AI行业之上。它提醒所有人，当前大模型的能力，是一种伪装出来的专业感。它擅长模仿专业文本的外壳，却不具备专业人士的核心能力：针对性推理、价值判断、聚焦问题的论证能力。 西：我们也不能走向另一个极端，全盘否定AI的价值。 AI本身是中性工具，它在资料检索、文本整理、初稿草拟、翻译、数据汇总这些基础性工作上，确实可以极大节约人力，提升基础工作效率。AI的短板，在于它没有目标意识，不理解任务背后的现实利害。它不知道一份上诉文书，关系当事人的财产、婚姻、切身权益；它不知道一份项目报告，会影响企业重大决策。它只负责生成符合语言习惯的文字。所以AI的价值，取决于使用它的人。使用者的思考、判断、审核，才是AI产出内容质量的决定性因素。专业人士的核心价值，恰恰就是思考、论证、权衡利弊，这部分工作，现阶段完全无法被AI替代。 东：我们可以横向看看，全球其他国家司法系统，也陆续遇到同类难题。 美国多个州法院、欧盟各国司法机构，都已经遇到大量AI生成的劣质文书。一部分是AI编造虚假判例的硬错误，另一部分，就是这种没有实质论证的空洞套话。各国司法机关都在思考，如何建立规则，约束律师滥用AI的行为。加拿大、英国的法院，也陆续发布指引，要求律师必须披露AI使用情况，并且对AI生成内容进行全面人工审核。全球司法界正在形成共识： AI幻觉只是表层风险，AI批量生产空洞无效文本，是范围更广、更隐蔽的长期风险。 西：这件事，对我们普通人日常使用AI，同样是重要的提醒。 很多人写工作总结、论文、申报材料、公众号文案，习惯于直接复制AI成品。我们可以把AI当成搜集素材、搭建大纲的助手，但是核心观点、针对性分析，一定要自己思考、打磨。如果直接照搬AI的成品，最后得到的，大概率就是一堆看着漂亮，却毫无用处的“正确废话”。短时间看节省了思考的功夫，长期来看，会慢慢弱化我们独立思考、逻辑论证的能力。当我们习惯把思考交给机器，我们自己的思考能力，就会慢慢退化。 东：很多人会争论，未来AI会不会进化，能够真正理解问题，产出严谨、有深度的论证文本。 这是一个开放的技术问题。但至少就当下全世界投入商用的这一代大模型来说，它的本质，是一个强大的语言模仿器，而不是思考者。它可以模仿人类写出任何文体，但是没有自主的价值判断，无法真正理解文字背后的现实后果。这就是佛罗里达法官口中，AI垃圾文本的根源。技术再迭代，只要使用者不加审核、直接把AI文本当成最终成品，“AI Slop”就会源源不断地产生。 西：当AI的使用门槛越来越低，普通人、专业从业者都可以一键生成长篇文字，人类社会正在面临一场文字产能的大爆发。 文字的生产成本无限降低，但是高质量、有独立思考的文字，依然需要人类投入脑力。 AI可以生产文字外壳，但是思想、论证、共情、权衡利弊，这些内核，只能由人来完成。 如果我们混淆了“文字生成”和“思考论证”，把机器生成的套话当成专业成果，整个社会的内容质量，都会持续下滑。 东：这也延伸到全球AI监管的底层方向。过去全球AI治理讨论，更多聚焦隐私、数据安全、深度伪造、虚假信息。佛罗里达这个判例，把另外一个议题推到台前： AI产出内容的质量责任。AI生成空洞、无效、误导性文本，造成公共资源浪费、损害他人权益，责任到底由谁承担。 美国司法界用判例给出答案： 使用AI的专业从业者，要承担最终责任。 工具本身不担责，使用工具、提交文本的人，必须对内容质量、论证有效性负全部责任。这套逻辑，未来也会被更多国家的立法、行业规范吸收。 西：我们还要区分两件事：批判AI垃圾文本，不等于否定AI技术的进步。 技术本身有巨大的潜力，但是技术的能力边界，必须被清晰认知。很多科技公司的宣传，刻意放大AI的“智慧感”，弱化它只是语言预测模型的本质，制造AI可以替代专业脑力劳动的错觉。佛罗里达法官写下的这份判决，某种意义上，是一次去魅。撕掉AI无所不能的神话，让大家看清它的真实能力边界。 东：当我们把这一层看透，再回头看当下全球AI行业的竞速，就能看懂行业的内在矛盾。 一边是企业不断宣传模型能力越来越强，不断推出新的大模型产品； 另一边，法庭、高校、企业内部，不断涌现大量AI垃圾文本，消耗大量人力去甄别、修正。 行业正在被迫从“比拼模型参数”，转向建立内容质量审核机制、责任追溯机制。技术跑得快，规则和人的判断力，必须跟上。 西：放到长远视角来看，这起佛罗里达的判决，会成为AI发展史上一个标志性的节点。 它不再仅仅针对AI编造谎言这种极端事故，而是针对AI最普遍、最日常的产物——空洞套话。它向全世界所有专业领域传递一个信号：仅仅文字没有造假，远远不够。专业工作，核心是论证、思考、解决问题，而不是文字的堆砌。机器可以帮忙写文字，但不能替人思考。 东：很多人看完这个案例，会产生疑问，AI还能不能继续用？ 答案是当然可以用。 关键是摆正定位，把AI当成助手，而不是代笔人。AI负责初稿、素材整理、资料检索；人负责思考、判断、论证、核验，最终为内容负责。 一旦颠倒主次，人完全依赖AI的输出，垃圾文本就一定会大量出现。 西：这也是今天这期节目想带给大家最核心的启示。 技术永远是工具，工具的好坏，取决于使用它的人。AI可以写出通顺漂亮的文字，但是没有办法替代人的独立思考。美国法官奋笔疾书写下的“AI垃圾”，批判的不是AI这个技术本身，批判的是人类把专业思考全权托付给机器的懒惰。 东：AI浪潮席卷全球，很多人在追捧AI的强大能力，也有很多人恐惧AI会取代人类。 佛罗里达这个法庭判例，给我们提供了一个冷静的视角。看清AI的实质，不盲目神化，也不必无端恐慌。 看清它的能力边界，守住人类思考的底线，才是面对AI时代最理性的选择。 西：未来，AI会更深地嵌入我们的工作、学习、生活。如何用好这台文字生成机器，如何分辨哪些内容是机器堆砌的套话，如何守住独立思考的能力，会成为每一个现代人必备的能力。法庭的审判，只是一个开始，人类和AI之间的边界探索，才刚刚拉开序幕。 东：好了，今天的话题就聊到这里，明天见。 【节目片尾音乐起，背景屏依次切换佛罗里达判决书页面、AI生成文本风险示意图、全球AI治理时间线，最后定格节目logo，画面渐暗】 （全文完）