让 AI 写文档可以,编造假事实不行:我们的防火墙拦下了 327 条

9 月 6 日某大模型跑分作弊的新闻里，最扎心的不是它作弊，是它作弊的方式，把评测集的答案喂进训练里。

模型学会了“让阅卷人满意”，跟“让用的人放心”，本来就是两回事。

这事 10 月还有新番：一位芝加哥大学教授用 AI 一年写了 200 多篇论文，平台随后撤下了其中好几篇。

这也是 AI 写文档这件事最深的坑。

让大模型写一份材料，它永远写得出来，写得流畅、工整、像模像样。

问题是它不区分“我有依据”和“我编得通”。

我做的这个系统，输出物是拿去参与政府采购评审的文件。

这个场景对幻觉是零容忍的：

写一句“我司具有某项目经理资质”，没有这回事，轻则废标，重则按虚假投标处置，罚款、列入不良行为记录名单、禁止参加政府采购活动一到三年，情节严重的吊销营业执照。

在这种场景里，AI 编一句话的代价，比它写一千句正确的话都大。

所以我们把“不许编”做成了一道一道的闸，这篇全拆开。

01第一道闸：先给每句话分成分

系统生成的每一条响应，落笔之前先回答一个问题：

这句话是事实主张，还是方案承诺？

“我司近三年完成过同类项目 12 个”，事实主张，有真假，可核验。

“我司承诺中标后 30 日内交付”，方案承诺，表态而已，本来就要人签字盖章确认。

这两类句子的处理完全不同：

事实主张必须绑证据，证据来源等级不低于官方文件（证照、审计报告、业绩合同这一级），来源弱的一律拦截；

方案承诺自由输出，但会自动带上“待人工确认”标记。

听起来常识，落地后数字很难看：

一份 330 条需求的真实初稿，只有 3 条拿到了写事实的资格，因为资产库里只有 3 条硬证据能通过核验。

其余 327 条，全部退化成承诺句式或者待办占位。

3 比 330，很多人看到这个比例会说这系统没用。

我的看法正好反过来：

这个数字的难看，就是这份报告的诚实。

 换一家敢把 330 条全写成“我司已完成”的 AI 服务，那才叫没用，用在政府采购上，是负用。

02第二道闸：事实句必须随身携带自己的出处

通过的 3 条事实，写进文档时不是裸句。

每一条后面都跟着机器可查的标签：

证据编号、来源文件、页码、来源等级。

评审员或者复核的人对任何一句有疑问，顺着标签就能翻到原始扫描件。

做这件事的顺带收益是：

写标签的逻辑逼着系统承认边界。

我们建历史资料库那阵，写了一条专门的规则，营业执照不等于投标资格。

桥接模块可以把证照关联到相关需求，但“经营范围匹配吗、过期没过期、是不是这个项目的要求”必须逐项判定，任何一项不过，这条事实在最终文档里就不能以既成事实出现。

03第三道闸：缺口不填，缺口交给人

327 条没证据的响应，系统不允许 AI“多少写点像样的”。

它输出的是一包结构化的待办：

资格类 103 条、格式类、技术类、商务类各自归堆，每条带着“建议人工动作”。

这包东西的名字就叫人工评审包。

它的设计哲学跟市面上大多数 AI 文档工具相反：

别人的产品力体现在“生成得更多”，我们的产品力体现在“知道自己不能生成哪些”。

同一个入口进来的 330 条，走出去时分成两种句子。

04第四道闸：能提交与否，是另一个开关

前面三道闸管的是“文档里写什么”。

还有第四道管“这份文档敢不敢交出去”。

资格风险闸门单独存在：

证照过期、经营范围不匹配，直接把整体状态置为“禁止提交”，文档首屏打上红字。

注意它的设计，它不阻断 AI 生成完整初稿。

草稿你可以随便看，但“可以提交”这句话，系统在没有证据支持时说不了。

生成权和提交权分开，跟给车装限速器不拆发动机是一个道理。

05第五道闸：防火墙自己也被攻破过一次

讲成绩讲到这里，讲一次事故。

9 月初的评审里，执行 AI 在自查清单的第 2 条把这条发现报了上来：

某个代码路径把主张的类型写死成常量，绕着防火墙直接落盘。

防火墙的规则没输，输在它只守了一个门，从另一个门递进来的条子，它根本没看见。

这条发现的待遇是：

在签发的裁决里直接升为 P0 级问题，挂上“准出阻塞”，这一项不修完，整个阶段都不许宣布完成。

裁决文件里还顺手记了架构侧自己一笔：

这个发现其实在前一轮的汇报里就报上来了，架构侧压了两轮才裁决，文件抬头写着“补账”。

发现是执行方的，拖延是管理方的，两笔账各记各的。

这条事故给了整个系列我最喜欢的一句规矩：

06最后一道闸：跑没跑过，账本说话

所有涉及真实模型调用的验收，成本入册。

冷跑一次 456 次调用、22 分钟，marker 文件里时间戳、次数、耗时全在，不许重跑、也不许清理，那是全项目唯一一份“不可再生”的证据。

为什么连这个都要上闸？

因为假绿的最高形态，是说“我跑过了”其实没跑。

账本在，任何人一条命令可以对账。

你的 AI 写过一本正经的假话吗？被你当场抓到过几次？

评论区聊聊你现在的防法，我看看和我们是不是一路。

用户亲口提的需求，同一个项目多家公司的标书都要用我们系统做，还要做得互不雷同，被架构侧书面拒绝了。

拒绝书里引的不是技术难点，是一条法规：

不同投标人的投标文件由同一单位编制，直接“视为串通投标”。

一个 AI 产品怎么对甲方说“不”，第 5 篇见。

回复“防火墙”，发你那张“事实句还是承诺句”的二分判定卡，五个提问走一遍就能给任意句子上分类。