夜雨聆风学习资料网

ARTICLE · 1142344

听说有人用AI写材料出大事了

听说有人用AI写材料出大事了

先说一个可能不少人都遇到过的场面。

稿子交上去了,领导扫了一眼,指着其中一句问:这个数据哪来的?这个文号对吗?这位领导真这么讲过吗?

三个问题,一个都答不上来。因为这些不是你写的,是AI写的。你看着挺顺,就交了。

《秘书工作手记4》里有句话,我第一次看到的时候心里一紧:AI不会写检讨,也不会背处分。它编错了,责任是你的,不是它的。

它最危险的地方,是“不像编的”

AI编东西,不是故意撒谎。它是概率预测,在海量数据里错误地关联、拼接,“幻想”出内容。要命的是,它永远用最自信、最专业的口吻说出来,你根本听不出来。

落到公文里,常见的坑有这么几种。

一是政策和文号。它可能把网上流传的讨论稿当成正式文件,把A省的政策安到B省头上,甚至“发明”一个根本不存在的文号。当它写出“深入贯彻落实《关于优化XX领域审批服务的指导意见(国发〔2023〕XX号)》”这种句子,看着特别像真的——你去查,没这个文号。

二是引用。它引“领导金句”也一本正经。书里调侃了一句:鲁迅根本就不知道自己曾说过那么多精辟的话。AI引的也一样,引号里那些字,可能从来没人在任何场合讲过。

三是数据。这是重灾区。它可能混淆统计口径,把不同年份的数字拼在一起,甚至为了让逻辑自洽,“合理”地编一个出来。数字越精确到小数点,人越容易放松警惕。

四是抄袭。这一条最隐蔽。它学过的东西,可能整段粘进你的稿子,你自己完全不知情,一查重,跟网上某篇文章高度雷同。

第一道防线:下指令的时候,就把规矩立死

等它写完再改,是被动的。书里给的办法叫“预防性约束”:在提示词里加一个【约束条件】模块,从源头上减少它瞎编的空间。

有三条可以直接抄:

政策依据:所有上级精神的表述,以政府官网、新华社、《人民日报》为准,不引用未经官方确认的网络解读。

数据要求:需要数据的地方预留空位,绝对禁止自行编造或估算。

不确定处理:任何无法百分百确认的政策表述、专有名词、具体提法,用括号标注【此表述需核实】。

加了这几条,它的产出就自带“可核查性”——该留空的留空,该标注的标注,你后面核起来也有抓手。

第二道防线:逐项核,不是抽查

稿子拿到手,六项内容必须逐项过一遍:政策、引用、数据、抄袭、本单位实际、保密。

书里举了个例子。AI写了一段工作总结,里面有“实施'2+6+N'产业行动”,还有“'5020'项目覆盖率95.1%”,看着挺唬人。你得逐项拷问它,也拷问你自己:“2+6+N”有出处吗?两位数增长有依据吗?95.1%这个数是哪来的?

每一项都要有答案,答不上来的就删掉或替换。核实不是抽查,是逐项检查、逐一核对。

另外两件事容易忽略,出的都是大事。一是查重,有条件就把成稿放进查重系统或搜索引擎里横向比对一遍。二是保密:喂给AI的提示词不能夹带涉密文件和敏感数据,内部材料要彻底脱敏之后再用——人名、地名、单位名、文号、核心数据,一个都不能直接扔进去。

AI写的稿子,交之前逐项核

还有一招:让它自己查,但别让它“检查”,要让它“找茬”

除了自己当审查官,还可以让AI先当第一道质检员。不过这里有个技巧:不要对它说“请检查一遍有没有问题”。

你这么问,它大概率客客气气地回一句“整体写得不错”,再提两条不痛不痒的建议。因为它是在顺着你的预期走——你期待它认可这篇稿子,它就认可给你看。

有效的做法是对抗性审查:给它换一个专门挑刺的角色,把任务从“检查”改成“攻击”。可以直接抄这段:

你现在不是这篇稿子的作者,是一名专挑毛病的审稿人。你的任务不是肯定它,而是攻击它。请逐句审查,找出:1.任何没有出处的政策、文号和引用;2.任何无法核实的数据和案例;3.任何可能引发歧义或政治风险的表述。每一条指出具体位置,说明为什么可疑。找不到问题,就是你失职。

角色一换,它的状态完全不一样——从“帮你圆”变成“跟你对着干”,藏得深的毛病才会被翻出来。

书里的自查模板也是这个思路:让它换上一顶“有10年办公厅文稿审核经验的资深审核专家”的帽子,按四张清单逐项自报——政治性与政策合规、数据与事实准确性、金句与引用核查、公文格式规范。在这个模板开头加上“以挑错为目的”这句要求,效果还会再上一截。

它先筛一轮,能抓掉一批明显的错。但最后拍板的还是你。书里那个说法挺形象:它能帮你标注路况,往哪走最安全,得靠老司机判断。

说到底,用AI写材料,信任它和核实它是一体的。它的最后一道关,永远是你自己。

这套东西在书里是完整的一节:《秘书工作手记4:结构化表达与AI公文写作》第五章第八节“严防死守AI幻觉”。约束条件怎么写、六项怎么核、自查提示词模板,都给了现成的,直接抄来就能用。

想解决哪一类问题,看哪一章:

第一章(p9) 材料架子搭不起来、逻辑总被挑
第二章(p75) 段落写不实、词穷、长短不齐
第三章(p135) 汇报、发微信、饭局说不明白
第四章(p159) 不会指挥AI、指令下了没用
第五章(p200) AI写不像、去不掉AI味、怕它编
附录(p249) 临时要现成的指令

新书刚上市,清华大学出版社出版,定价 69元,现价49元。

京东搜索“秘书工作手记4”就能找到。

相关学习资料