AI拍板出事谁背锅?这工具让规则引擎说了算

贷款申请被秒拒，没有解释，没有申诉入口，就一句"综合评分不足"。

你敢信吗？现在贷款、反欺诈、医疗分诊这些要命的决策，越来越多是 LLM 在拍板。

出了问题谁负责？ AI 不会说话，背锅的永远是公司。

有个开发者看不下去了，直接做了个工具叫 AI·rete·RAG ，冲上了 Hacker News 热榜。

思路特别简单：规则引擎做决定， AI 只负责写解释。

它跑两套系统，一前一后串联：

第一套，纯 Python 写的 Rete 规则引擎，读 YAML 规则，对事实做判定。同样的输入，永远给出同样的结论。

第二套， RAG 从你自己的政策文档里检索依据， LLM 把已经做好的决定翻译成人话，还带引用。

关键就在这——LLM 永远改不了结论，它只能解释。

审核模式更狠。每一条被评估的规则都会被记录，包括那些没触发的，逐条附上条件快照。监管来了，直接回放整个决策链路。

规则的图结构也很有意思：支持嵌套的 all/any/not ，规则还能断言新事实喂给其他规则，正向链接。不懂代码的人用可视化编辑器搭规则，粘一段政策文档进去， LLM 帮你起草规则草稿、附上引用，不审核就永远不生效。

还内置了 MCP 服务器， Claude 这些智能体可以直接把它当工具调用，一条命令就能接入。

为什么这玩意儿值得关注？

因为"事后补护栏"这条路，已经走不通了。

现在绝大多数团队是让 LLM 直接做决定，然后再套一层 guardrails 。可 guardrails 拦得住胡说八道，拦不住"看起来合理但就是错的"决策。而出事之后，你连它为什么这么决定都说不清楚。

监管已经在敲门了。 贷款、反欺诈、临床分诊，全是要被审计的领域。规则引擎+解释模型，可能是唯一能既用上 AI 、又能在监管面前站得住的姿势。

当然，它也有局限：规则是死的，兜不住规则之外的意外情况； YAML 规则库维护起来也是体力活。

但方向是对的。

AI 时代最稀缺的能力，不是生成，是解释。

当每个 AI 决策都能被翻出来复盘、被监管穿透、被用户看懂， AI 才真正敢往要命的岗位上坐。

你敢让 AI 替你拍板吗？