点击上方「通大大」关注,看一个动手派把 AI 用进真实工作流。
我是通大大,主业做 VOC 智能分析、知识工程、用户行为研究和用户体验度量分析。
全文约 3300 字,阅读需要 9 分钟。
如果 AI 一天能造出过去一个月的标签,治理还靠季度盘点,会发生什么?
我最近在测一个很小的动作:删除标签。
工作副本里删掉一项,准备应用到正式标签库。系统没让我继续,要求先回答一个问题:这个标签下面的历史数据,以后归到谁?
不指定旧 ID 到新 ID 的映射,应用按钮就是不能点。就算随便挑一个目标也不行:目标必须属于当前标签库,而且在新版本里继续存活。
我第一反应是:这也管得太宽了。
接着我把标签治理专项测试跑了一遍。后端 16 项、前端 13 项全部通过。没有迁移映射、映射目标不存在、目标也被删除、回放不合格,都会卡住应用。
这时我才意识到,系统拦的根本不是一次删除。
它拦的是一场没人说得清影响范围的业务语义变更。
标签显示在页面上只是几个字,落到系统里却连着历史数据、分析报表、模型输出和后续决策。名称改了,可能只是换个说法;ID 删了,旧结果就可能失去归属。
AI 又把这件事往前推了一步:生成标签、补定义、聚类未覆盖样本都快了。真正拖后腿的环节,已经从“生产标签”转到变更后的验证、发布和追溯。
一、旧治理没错,错的是它追不上 AI 的速度
我读了四篇标签治理文章。
鲁班在《标签治理:无解的困局》里提出:在高对抗、动态变化和低频事件中,标签治理受制于时效性、准确性与可持续性的“不可能三角”。
傅一平的百万标签库治理实践走的是另一条路:先盘点、排优先级,再聚合、优化、下线,还要补负责人、平台能力和持续运营。作者案例里,位置类标签从 86 个治理到 14 个,通信宽带类从 36 个治理到 14 个。这是企业自述,未经我独立复核,但“标签越多不等于价值越大”很实在。
《标签治理体系》把覆盖率、准确性、时效性、使用度、关注度和安全放进评估模型;B 站标签系统实践则把生产、审批、DQC、人群应用、版本切换和下线纳入平台。
盘点、指标、责任人、生命周期,传统治理该有的东西其实都有。
问题出在治理节奏。
过去,标签体系按月或按季度变化,组织还能靠专项盘点追上。现在 LLM 可以连续提出新标签、重写 definition、修改归类。治理团队面对的不再是一张慢慢变脏的表,而是一套持续产生变更的业务规则。
继续靠季度大会战,像一边开着水龙头,一边研究怎样把地拖得更干净。
微软研究院 2023 年用 GPT-4 生成、验证并应用用户意图 taxonomy,报告 GPT-4 与多人标注多数票之间的 Cohen's kappa 为 0.7212。但团队同时提醒:LLM 生成的 taxonomy 缺少外部验证,还可能形成“模型生成、模型打标、再由模型结果证明自己正确”的反馈循环。最终仍需要专家检查完整性、一致性、清晰度与准确性。论文原文[1]
所以我的分工很明确:让 AI 去未知区找问题,让人决定业务边界,让系统守住发布纪律。

图:治理对象从“慢慢变脏的标签表”变成“持续产生的业务语义变更”。
二、给业务语义加一条 CI/CD
写代码的人不会把一个改动直接塞进生产。通常要有分支、diff、测试、审查、版本和发布记录。
标签也该这样管。
我把这套方法叫作“语义 CI/CD”。它不是给旧流程换个时髦名字,而是把治理从一次性清理,改成两条持续运行的闭环。
• 数据反馈环:真实文本进入系统,暴露未命中、只命中大类、错标和漏标,再由人工判断问题究竟出在模型、definition 还是标签缺口 • 版本发布环:正式标签库生成工作副本,修改先形成 diff,高风险变更单独提示;通过重新审视和回放后才能应用,删除标签还要安排历史归属
一条管“怎样发现该改什么”,另一条管“改完怎样安全落地”。少一条,都闭不了环。

图:真实数据负责暴露问题,版本流水线负责控制变更。
要让这套闭环真正运转,我给它设了四道闸门。
1. 标签必须有身份,不能只剩名字
W3C 的 SKOS 标准早就把 concept 和 label 分开:一个概念可以有稳定 URI,也可以有首选名称、别名、definition、scope note、history note 和 change note。W3C SKOS Reference[2]
放到企业标签里很直接:显示名称可以变,概念身份不能跟着漂。
“充电速度慢”改成“充电效率低”,如果业务含义没变,历史结果就该继续挂在同一个 ID 上。如果删除旧标签再新建一个同名标签,页面看着差不多,底层已经是两个概念。
一张能进入生产链路的标签卡片,至少要回答六个问题:
• 稳定 ID:改名后还是不是同一个概念 • definition 与边界:什么命中,什么不命中 • 正例与反例:怎样与相邻标签区分 • 层级与别名:它在体系里的位置是什么,旧叫法如何检索 • 负责人和适用范围:谁来解释,哪些业务能用 • 版本与变更记录:何时改过,为什么改,影响了谁
2. 没有证据,不给治理报告打高分
覆盖率、使用率、准确率一加权,最后给标签库打 86 分,看上去很完整。
但一个标签库使用度很高、更新也及时,如果人工反馈里同一段文本出现两个互相冲突的期望标签,它还能算健康吗?安全字段没脱敏,其他指标再高也不能抵消。
所以我把证据拆成三类:标签合理性、数据覆盖、打标质量。
最关键的规则很朴素:启用的证据模块没有完成,健康度就是 N/A。
“没有证据”和“证据显示没问题”,不是一回事。
3. 改完 definition,拿原文重新打一遍
标签治理最常见的幻觉,是会议上把定义改顺了,大家读着都合理,于是宣布问题解决。
真实文本未必买账。
definition 的一次修改,可能让原来的错标消失,也可能顺手伤到相邻标签。所以工作副本修改后,系统必须拿人工复核过的原文重新打标,再与期望标签逐条比对。工作副本或反馈样本一旦变化,旧回放就作废。
[实测] 当前项目门禁要求有效样本达到 min(5, 反馈总数),完全匹配率至少 80%;低于门槛,后端在写数据库前拒绝应用,前端同步展示失败原因。
这两个数字只是当前项目规则,不是行业标准。五条样本对高风险投诉远远不够,80% 也不适合所有多标签任务。
真正该继承的是门禁:没有跑过修改后的真实结果,就没有资格发布新的业务口径。
4. 删标签之前,先安排历史去处
现在回到开头那个删除动作。
每个被删除的叶子标签,都要指定一个继续存活的目标标签。映射不能只是页面上的临时参数,还要写入迁移记录:旧 ID、新 ID、来源版本、目标版本、原因和操作人。
应用前先保存快照;应用时再检查正式版本是否被别人改过;版本对不上,拒绝写入;完成新树后,历史结果按迁移表分批改写。
[实测] 专项测试覆盖了无映射拒绝、非法目标拒绝、目标必须存活、来源必须真的被删除、应用前快照和历史结果 ID 重写。
但边界也要说清:我验证了代码和专项测试,没有完成生产规模的历史数据迁移压测,也没有验证自动回滚。系统有快照,不等于已经跑通一键回滚。

图:身份、证据、回放和迁移,任何一道不通过都不能发布。
三、AI、人和系统,各守一段
做到这里,分工反而简单了。
Meta 2026 年公开的资产分类实践也采用了类似分工:LLM 处理新颖和模糊对象,稳定知识沉淀为带版本、经人工审阅的确定性规则;生产中的常规判断尽量交给规则,人负责参考标签裁决和规则晋升审批。Meta Engineering,2026-06-25[3]
这不是让人和 AI 抢活。
AI 负责扩大探索半径,人负责定义边界,系统负责让边界不能被悄悄改掉。
四、别先问接了哪个模型,先拿这张表验收
如果你的团队正在做标签平台,先别问“接了哪个大模型”。把下面五层过一遍:
NIST 的 AI RMF 要求治理贯穿整个生命周期:部署前测试,运行中持续监测,并定义人工监督角色。NIST AI RMF[4] 但监测不是装一个看板就结束。NIST 2026 年关于部署后 AI 监测的报告,仍把漂移检测、分散日志和人工监测难以扩展列为现实障碍。NIST,2026-03[5]
成本不会消失,只会从“人工逐条生产标签”,转向“管理边界样本和变化风险”。
这反而是好事。人终于不用在几百个标签里机械翻找,可以把时间花在机器解决不了的争议上。
最后
Google Research 访谈 53 位高风险 AI 从业者,把上游数据问题逐步放大的现象称为 Data Cascades。论文报告这类级联在访谈案例中的出现率为 92%。这个数字不能外推成全行业发生率,但它提醒我们:上游一个含糊定义,到了下游可能已经变成训练数据噪声、模型误判、报表偏差和错误决策。Google Research[6]
我把标签体系里这种累积成本叫作“语义债”。这是我的概括,不是一个已经标准化的行业名词。
过去,语义债积得慢。现在 AI 会批量生成、批量应用,也会批量放大。治理要是没有工作副本、证据、回放和迁移,生产效率越高,欠债速度可能越快。
所以我现在判断一套标签治理系统是否成熟,先看它会不会拒绝。
回放失败时,敢不敢拒绝发布?旧数据无处可去时,敢不敢拒绝删除?
开头那个让我觉得“管得太宽”的按钮,最后成了整套系统里我最想保留的部分。
AI 可以继续往前冲。
业务语义必须知道什么时候踩刹车。
我是通大大,每周只讲能落进真实工作流的 AI。觉得这套“语义 CI/CD”对你有用,欢迎转给正在做标签平台、知识库或智能分析的同事。
引用链接
[1] 论文原文: https://www.microsoft.com/en-us/research/wp-content/uploads/2023/09/LLMs_for_Intent_Taxonomies-650b6ae9c10b5.pdf[2] W3C SKOS Reference: https://www.w3.org/TR/skos-reference/[3] Meta Engineering,2026-06-25: https://engineering.fb.com/2026/06/25/security/privacy-aware-infrastructure-in-the-ai-native-era-an-asset-classification-case-study/[4] NIST AI RMF: https://airc.nist.gov/airmf-resources/airmf/5-sec-core/[5] NIST,2026-03: https://www.nist.gov/news-events/news/2026/03/new-report-challenges-monitoring-deployed-ai-systems[6] Google Research: https://research.google/pubs/everyone-wants-to-do-the-model-work-not-the-data-work-data-cascades-in-high-stakes-ai/
夜雨聆风