华尔街最顶级律所,也被AI坑了一次

一份提交至曼哈顿美国破产法院的文件，近日在法律圈引发不小震动。

事件的核心，是华尔街顶级精英律所Sullivan & Cromwell在一份正式提交的法律文件中，出现了大量由生成式人工智能产生的错误内容。相关问题在案件推进过程中被揭出后，该所已向承办法官提交书面说明并致歉，同时对原文件进行全面修订。

从案件背景来看，此次风波并非发生在一般性争议中。涉案主体为Prince Global Holdings Limited，其背后关联柬埔寨太子集团，该集团创始人陈志去年因涉嫌策划涉及强迫劳动的跨国加密货币骗局，被美国司法部起诉。Sullivan & Cromwell是本案中Prince Global Holdings Limited在BVI清盘程序中的代理律所。

在程序推进中，Sullivan & Cromwell代表相关主体向美国法院提交了一份紧急动议。然而，本案的对手方律所Boies Schiller Flexner发现并指出文件中存在大量错误，包括无法检索的判例与案号、伪造的法条引用，以及有明显拼接痕迹的论证内容等。

在提交给法院的说明函中，负责该事项的合伙人明确表示，文件中的部分错误属于典型的“AI幻觉”。人工智能在生成文本过程中可能构造出并不存在的法律信息，例如虚构案例、错误引用法规、以及对既有判决的失真概括等。

更值得注意的是，律所方面同时承认，此次问题并非单纯的技术瑕疵，而是内部控制环节未能发挥作用。按照其既有制度，所有通过AI生成的法律内容应当被严格逐项核验，但在本次文件准备过程中，相关核查与复审机制并未有效执行。

从个案角度看，这起事件的直接影响仍在观察中，法院是否进一步采取措施尚无定论。但在更广泛的行业语境下，这一事件的象征意义显然更为突出。

一方面，生成式人工智能已经实质性进入法律服务的核心环节，从资料检索、初稿撰写到论证结构整理，其应用范围不断扩大；另一方面，与之匹配的风险控制机制却仍在磨合之中。

此次事件之所以引发高度关注，很大程度上正是因为其发生在行业最成熟、制度最完善的一类机构之中。在可以预见的未来，围绕AI使用的审查机制、责任分配以及执业规范，仍将持续演化。而对于具体执业层面而言，人工核验这一最基础的要求，并不会因技术进步而被弱化，反而将成为更不可回避的底线。