AGENT SHEPHERD · FRAGMENT

碎片 · 李琳

2026年9月18日 · 周五 · 深夜

李琳：模型风险管理清单里，那栏“AI 生成的规则谁来认”，底下压着一条没敢写进制度的规矩

📖 月度正片 → Agent牧羊人·05期｜接住火种，看清差距

📖 上一篇碎片（张伟） → 张伟：v0.3 灰度前夜，Agent 把师父一条“存疑的规矩”学成了铁律

李琳这周，卡在一张清单上。

不是待办。是她主笔的那份《模型风险管理（MRM）清单》——公司里管“模型出的结论，到底谁认”的那份。每季度更新，这周轮到她 review。

“数据呢？”——这句她的口头禅，这次是对着清单自己说的。

🚀 本周（9/14–9/18）· 当模型开始“自己认自己”

· 两协会《证券公司交易信息系统接入管理规范（试行）》8月28日发布后，本周继续在执行期发酵——“能接”的前提是“每一行有人认”。模型风险管理圈把这句话翻成了另一句：模型出的每一条结论，也得有人认；

· 同赛道，几家机构把“让模型自动出风控 / 授信结论”当新能力演示，置信度标得很高，业务方当场点头；

· 但圈内老人都懂——模型最危险的时候，不是它说“我不确定的时候”，是它说“我很有把握”的时候。当模型开始自己认自己，谁来认“它认得对”？

她的清单，第一栏就写着：“AI 生成的规则，谁来认。”

这栏她半年前就立了。那时总监还说过“你这是给自己加戏”——后来讲话把“模型风险管理”写进制度要求，这栏反倒成了标配。

立栏容易，填内容难。每次模型吐出一条新规则，她都得在旁边手写：“认责人：___”。可这周，她填不下去了。

一条新规则从模型里出来——和同行撞了同款：引用齐全、格式工整，结论写得理直气壮，“建议将某风险因子的预警阈值自动上调 20%”。

她翻遍制度，找不到谁有权“认”这一条。模型说“我有 92% 把握”，她回一句“数据呢”——模型立刻补出十几页支撑，更“有把握”了。

越理直气壮，她越不敢签。

她给张伟发了条微信：“你那条‘存疑规矩’，我清单里也有同款。模型吐出来的规则，引用齐全、理直气壮，可翻遍制度，找不到谁有权认这一条。”

张伟回得很快：“待人工确认。五个字，我设成最高告警了。”

她看着屏幕，忽然想起自己清单的角落——那里压着一行她从没写进制度的字。

翻出清单最后一页，页脚空白处，有她自己写的一行小字，铅笔，像是某次 review 后随手记的：

“当模型说‘我很有把握’，恰恰是最该复核的时候。”

她盯着那行字。这是她带模型这三年，唯一一次“没敢写进制度”的直觉。

为什么没写？因为一旦写进去，等于向全公司承认：我们的模型，越自信越不可信。总监会说“你又给自己加戏”；业务会说“那我还信它干嘛”。可她心里清楚——盲准比不准更危险，因为它穿着“准”的衣服。

张伟那边，是把“存疑”亮着，等真懂的人来。她这边，是把“高把握最该复核”藏着装没看见。两种不敢，其实是同一种怕。

模型说“我很确定”的那一刻，恰恰是你最该问“数据呢”的时候。

模型越自信，复核越不能省——因为盲准，比不准更危险。

🎭 小彩蛋

深夜，显示器冷光。她把那行铅笔字，用钢笔重新描了一遍——“当模型说‘我很有把握’，恰恰是最该复核的时候”。

然后给张伟发了条：“你那栏‘待人工确认’，我角落这行，这次不藏着了。合规复盘，我写进制度。” 张伟回了个表情。屏幕没关。这是第一次，她没在 review 季把“不敢写”留给下一个季度。

📎 相关阅读

→ 同源人物线：李琳：把“数据呢”写进制度（她管“为什么信”，张伟管“能不能做”）

→ 上一篇碎片：张伟：v0.3 灰度前夜，Agent 把师父一条“存疑的规矩”学成了铁律（“存疑规矩”同款的来处）

→ 同源人物线：陈昊轩：想进高保真组，老高用一段手写代码把他拦在门外（年轻人“包的” vs 老炮的“怕”）

→ 同源人物线：老苏：那箱写不进规则的为什么（为什么“为什么”值钱）

→ 月度正片：Agent牧羊人·05期｜接住火种，看清差距（同一个8月，四个人的清醒）

下一篇碎片：老赵的银行 IT 外包验收单上，第一次出现了“AI 生成”的校验结论。他这个管了十五年验收的人，发现 Agent 把“人工复核”也悄悄自动化了——而签字栏，还空着。

觉得有用，点赞 👍 + 转发 + 推荐 ❤让更多需要的人看到这篇内容

道以研究院 · Agent牧羊人AI × 金融投资 · 深度观察