AI 领域法律研究系列之181:当AI写出“读不出声”的方案——咨询机构为何必须坚持“亲手触摸”

最近，朋友讲述的一幕令人警醒：在大学校园的讲台上，学生们用生成式AI（Generative AI，指基于大语言模型自动生成文本、PPT的AI系统）制作了精美的商业计划书。然而，当演讲开始，有学生竟无法读出PPT上的生僻字，更无法解释其中的逻辑。我将此描述为“理解度的质的大幅下降”。这不仅仅是教育界的危机，更是咨询机构（Professional Service Firm / Consulting Firm）必须直面的生存警报。当客户发现你提交的“60分文书”是你自己都没读懂、甚至读不出来的东西时，信任便瞬间崩塌。作为长期观察AI合规的法律人，我想借此案例探讨：在AI能瞬间生成方案的时代，咨询机构为何还必须“跑现场”、查原件、亲手触摸那些粗糙但真实的原始材料？

一、从“读不出汉字”到“看不见风险”：AI依赖的共性陷阱 

提到的这个现象，在咨询行业有一个专业术语，叫“认知降伏（Cognitive Surrender，指人类放弃独立思考，无条件接受AI输出的心理状态）”。学生读不出汉字，是因为他们把“输出（Output）”当成了“理解（Understanding）”。咨询机构若犯同样错误，后果不堪设想。

律师点评：去年的学生只是用AI辅助信息收集，今年的学生则用AI生成最终输出。这种从“辅助”到“替代”的跨越，正是风险的根源。咨询机构的报告不是PPT艺术展，而是决策依据。依据若建立在沙滩上，再华丽的城堡也会倒塌。

二、为什么“跑现场”无可替代？——三类AI到不了的信息 

正如渋谷强调学生需要“自発的に修正作業”（自发修正），咨询顾问也必须通过“跑现场”来完成对AI的校验。AI无法触及以下三类核心信息：

物理实体与痕迹（Physical Artifacts）

案例：AI可以生成完美的仓库盘点报告，但它看不到角落里积压的、已过保质期的原材料，也摸不到机器上新鲜的摩擦痕迹。

咨询动作：实地盘点、设备巡检、查看原始单据的油墨与褶皱。眼见为实，手触为真。

隐性知识与潜规则（Tacit Knowledge & Hidden Rules）

案例：AI阅读所有公开规章，也无法知道“这家公司真正的审批权在副董事长而非总经理”，或者“财务总监和采购经理是姻亲关系”。

咨询动作：与一线员工私下交流、参加非正式会议、观察办公室政治生态。人情练达即文章。

即时反馈与微表情（Real-time Feedback & Micro-expressions）

案例：访谈中，当问及某个敏感问题时，受访者的迟疑、眼神闪烁或肢体僵硬。

咨询动作：面对面访谈，捕捉非语言信号。AI能分析文本，但读不懂人心。

有教授在指导学生时，反复追问“为什么这么排版？为什么用这个词语？”。这种苏格拉底式的诘问（Socratic Questioning），只有在顾问深入现场、理解上下文后才能进行，AI无法代劳。

三、给咨询机构的警示：从“AI依赖”到“AI驾驭” 

渋谷没有斥责学生，而是教给他们三条铁律，这也应是咨询机构的AI使用守则：

不盲从输出（Don't Blindly Use Output）

规则：AI生成的任何内容，都必须经过人工“消化（Digestion）”。顾问必须能用自己理解的语言复述方案逻辑。如果顾问自己都觉得“拗口”或“不懂”，客户必然也是如此。

理解优先于完美（Prioritize Understanding over Perfection）

规则：一份由顾问亲手撰写、逻辑通顺但排版朴素的报告，远胜于一份AI生成、精美绝伦但充满幻觉的报告。粗糙的真实，胜过精致的虚假。

预演与复盘（Rehearsal & Review）

规则：内部必须进行模拟质询（Mock Q&A）。就像学生通过练习克服恐惧，顾问也必须通过内部挑战，发现AI方案的漏洞。不经过“试错（Trial and Error）”的方案，不值得交付。

据现在有人特别推崇中专的教育模式：15岁起学习技术原理，通过“制作—失败—改进”的循环（Try-And-Error Cycle）培养动手能力。这正是咨询行业对抗AI异化的解药。未来的顶级咨询机构，不是拥有最先进AI工具的机构，而是拥有最多“高专型顾问”的机构——他们懂技术原理，能拆解AI的黑箱；他们保持对现场的敬畏，能亲手触摸真相；他们敢于对AI的谬误说不，并用自己的经验修正它。当AI能写出60分的文书时，咨询机构的溢价来自于那剩下的40分——那是通过双脚跑出来的、双眼看出来的、以及与人类智慧碰撞出来的“不可替代的认知盈余”。

“步入社会再犯同样错误是要负责任的”。咨询机构作为客户的“外脑”，必须先学生一步，守住专业主义的底线。

【附录：咨询机构AI辅助作业合规自查清单】