近两年,回复很多当事人发来的AI检索问题,已经成为了工作的一部分,而且要对AI回答进行证伪存在很大难度,这倒不是因为AI回复问题有多么正确,恰恰相反,在稍微复杂一些的问题上,AI存在不严谨、漏洞的概率非常高,但AI程序设置为“有问必答”,在一定要给出一个答案的前提下,其回复煞有介事,为了论证其观点,甚至还自行伪造法条、编造案例,下面这个新闻想必很多人都看到过:

对于AI回复中所列举的案例,因为“主动”打码,检索起来十分困难,最终基本80%以上的案例在公开渠道无法查询到,我们知道AI工作原理,也是在检索基础上针对提出问题进行筛选、排列组合,但其严重缺乏细节把控能力。这种“幻觉式输出”在法律场景中尤为危险——当AI将虚构判例包装成权威依据,律师可能误引、法官可能误信、当事人可能误判。
据了解,多地律协已启动AI法律工具使用规范调研,明确人工复核不可替代。法律不是概率游戏,而是由证据链、逻辑链与价值链共同衔接的系统。这种“幻觉”并非随机出错,而是有系统性失范的特点:当AI在无法匹配真实判例时,会基于案号格式、法院层级、年份分布等表层特征生成高度仿真的虚假案例,连案号编码规则都刻意模仿,就在笔者写此文时,AI给予的文章提示中,又列举了几个“例子”:
其一,“某律所实习生提交的答辩意见中,竟引用了三个“(2023)京0105民初XXXX号”系列案,经查全部不存在,但案号结构完全合规。”
其二,“某省高院2025年内部通报显示,全年收到的37份AI辅助起草的上诉状中,19份含无法验证判例,其中7份被二审法院当庭指出“所引案例查无实据”,直接导致举证失权。”
但笔者对上述2个举例进行检索时,任何公开渠道均无对应新闻报道。但就其表述方式来看,似乎为了保护隐私信息隐去了具体单位名称,但仍用“数字”、“数据”以及特定词汇来形成具有高度“可信”的表述,该表述让检索人内心确信AI使用了检索工具查到了对应信息,所以当事人持类似案例发给律师时,证伪难度是非常大的,并且律师检索不到,当事人还会认为是“检索能力”的问题。
在一些基础数据的检索上,AI还是有一定的辅助作用;当前来看,法律层面的AI只是代替了此前人工检索信息及汇总信息的时间,但其在汇总准确度以及核心判断力上仍存在根本性缺陷:它无法识别法律推理的隐含前提,不能校验裁判要旨与案情的实质契合度,更无法承担司法责任。因此,任何AI生成的判例引用,必须逐案核验原始裁判文书、核实法院官网及权威数据库收录状态,并留存核查路径。
简言之,当前AI可以辅佐导航,但不能无人驾驶。
(11)信托案件是否一定会“同案同判”?
(16)信托财产为什么不能被强制执行?
(17)应收账款型信托的诉讼要点解读
(18)信托受益权转让对诉讼权利的影响
(21)论金融案件中的"举证责任倒置"
(23)信托案件的诉讼时效如何计算?
(36)信托执行:信托财产应如何认定?
(40)关于信托打折兑付方案的一点思考
(50)关于定融产品违约后的策略思考
(61)信托违约是否都会打折兑付?
(70)家族信托诉讼的“诉权”逻辑
(72)谈通道类信托的认定及司法审查限度
(77)关于中R信托诉讼问题的几点分析
(85)浅析信托、基金案件中的举证博弈
(95)信托诉讼能否突破约定管辖?
(96)有一种赔偿金额确定方式叫“酌定”
(97)为什么有些金融案件迟迟不出判决?
(98)对信托产品完善“清算程序”的思考
(106)某信托又要“破产清算”?
(109)新的一年,违约信托处置走向分析
(110)资管产品“刚性兑付”or”打折退出”?
(111)什么是“信托目的”?



夜雨聆风