用AI但不依赖AI

习惯六：治"不敢用"——怕出错担责，又怕被替代

上一篇，我们学会了和AI说话——角色、背景、任务、要求，把话说全、说准、说清楚。

但话说清楚了，心里还是发毛。

两种毛法。

第一种：AI万一出错，谁担责？我让AI写了个安全方案，它编了个不存在的法规条款，我直接用了，出了事故——AI不会上法庭，我会。

第二种：我万一用好了呢？我把经验全喂给AI，它学会了，公司还需要我吗？

面对这两种恐惧，我们常见的反应是两个极端——要么不敢碰，要么全交给它。

不敢碰的，AI再好也跟我没关系，就像家里买了台洗碗机，怕洗不干净，还是手洗；

全交给的，出了事才发现自己连检查都不会了，就像把碗往洗碗机一扔，拿出来直接用——结果碗底还粘着昨天的米粒。

两个极端，同一个病根——没想清楚人和AI的边界。

想清楚了，就不慌了。

第一层恐惧：怕AI出错，我担责

这种恐惧不是杞人忧天，它已经发生了。

美国纽约律师迈克尔·富特在法庭上被发现在法律文书中引用了AI编造的假案例。更离谱的是，法官让他写解释说明，他又用AI写辩护文件——结果又冒出更多假案例。

用未经核实的AI，去辩护自己使用未经核实的AI。

这不是法律行业的事，但想象一下——如果我们用AI查法规，发现引用有误，又让AI帮我们核实，结果AI又编了一条新的。

在安全方案里，这种循环可能是致命的。

法官乔尔·科恩在判决中的意思可以概括为一句：

"你可以用AI，但你不能把责任外包给AI。"

签字的人是我们，承担责任的人也是我们。

那AI到底在什么情况下最容易出错？

龚超在《OpenClaw"龙虾"安全养成实战》中引用安全研究者西蒙·威利森提出的"致命三重奏"——当AI智能体同时具备三个条件时，风险最大：

1.　能访问敏感数据

2.　能对外通信

3.　接收不可信输入

安全老兵一看就眼熟——这跟我们管理风险的逻辑一模一样：单一风险可控，多重风险叠加才最危险。

就像动火作业，有火源不可怕，有可燃物也不可怕，火源碰上可燃物再碰上通风不良——三要素齐了，才是真正的安全风险。

那怎么办？记住一个原则——

你是飞行员，AI是副驾驶。签字的人是你，承担责任的人是你。

副驾驶可以查航路、算油量、读仪表，但起飞前的最终确认、遇到异常的处置决策，永远是飞行员的活。

AI可以帮我们查法规、写方案、做分析，但最终确认、签字背书、拍板决策——这些活，AI不能替我们干。

这是态度。态度之外，还要有工具。

但在这之前，我们得先拆掉第二层恐惧——因为它比第一层更隐蔽，也更危险。

第二层恐惧：怕被替代

2026年初，一条新闻在安全人的群里炸了锅：某企业把离职员工的聊天记录导入智能体，人走了，AI替你上班。

一个活生生的人，干了十几年的活，积累的经验和沟通记录，全被"炼"成了一个数字分身。

看到这条新闻，谁心里不打鼓？我把经验全喂给AI，它学会了，公司还需要我吗？

先别慌。复旦大学卢向华教授在《AI革命：人机融合共生的五大法则》中区分了两种负向行为：AI抗拒行为——不敢用，那是习惯4已经治过的病；AI惰化行为——过度依赖，才是习惯6要治的。

不敢用和全交给AI，是两个极端，都不可取。

但第二种更危险——因为第一种至少还在干活，第二种已经把方向盘交出去了。

那"AI替人"到底替的是什么？萨迪·凯·圣劳伦斯在《AI掌局者》中说了一句很清醒的话：

"AI替代的是任务，不是人。消失的是岗位，不是价值。"

想想我们自己的工作——AI可以帮我们查法规、整理台账、生成方案，这些都是任务。

但判断哪个风险是真正的重大风险、在承包商耍滑头时拍桌子坚持安全标准、在事故现场第一秒做出应急决策——

这些是价值。任务可以被替代，价值不行。

更何况，法律也有底线——2026年杭州中院二审判决：某公司以受AI技术冲击为由调岗降薪，法院判了违法解除，赔偿26万余元。企业不能把技术更新的风险转嫁给劳动者。

所以，怕被替代的焦虑是真实的，但方向错了——不是要跟AI比谁干得多，是要确保有些事只有我们能干。

人机分工红线清单

刘润在解读麦肯锡自动驾驶报告时提到一个概念：安全协议硬约束——无论AI的决策算法怎么判断，车辆的物理行为永远不能超出边界。

跟车距离不能小于某个值，变道时侧向加速度不能超过某个阈值。

这些是硬约束，写死在系统底层，AI自己改不了。

安全老兵用AI，也需要这样的硬约束。但硬约束不是贴在墙上的五条标语——它是三道从输入到决策的完整防线：

一、输入端：敏感数据、错误数据不要喂给AI。

2023年3月，三星电子发生三起半导体机密资料外泄事件——员工将内部代码和会议纪要输入ChatGPT，短短20天内连续泄密。据《中国信息安全》杂志报道，这是企业AI应用数据泄露的标志性案例。

震烁在《用"龙虾"安全赚钱》里打了个比方——把绝密表格喂给大模型，就好比站在人来人往的十字路口，拿着大喇叭把你们公司的商业机密全念了一遍。

内部事故调查报告、员工健康档案、企业核心工艺参数——这些数据不能直接丢给公共大模型。喂进去就收不回来，AI的训练数据里可能永远留着我们的"家底"。

想解决这个问题，可以考虑用企业内网部署的私有模型，或者把敏感信息脱敏后再喂。

关于错误数据，用封闭知识库管理法规数据是好的做法，但知识库内的文件在传入前，也必须先由人审核确认——

错误数据喂进去，出来的就是错误结论。

二、处理端：管住分工——"与我有关"的必须我来，人工更快的也不必绕弯。

沈祖芸在《全球教育报告》中说，人机分工不是"我做一半你做一半"，而是"与我有关"的必须我来。判断标准不是效率高低，而是这件事是不是必须人在场。

先说"与我有关"的——

危险作业审批，审批人必须到现场。山东省应急管理厅发布的《动火作业安全风险管控措施清单》明确要求：审批人应在作业现场完成审批工作。 为什么？因为在现有技术条件下，AI还无法准确判定安全措施的到位执行情况——通风够不够、盲板堵没堵、检测仪器的数字是不是真的，这些判断目前还是要由人来做。

再说"人工更快"的——

客户3天后要一份新发布规范的动画培训课程。理论上，AI编写脚本、生成动画能行得通。但如果之前没跑通过动画制作的全流程AI，临时靠AI反而更慢——和AI之间的反复沟通、打磨提示词同样需要花大量时间。这时人工制作显然是更靠谱的选择，后面有时间了，再去尝试跑通AI流程。

"与我有关"筛的是该不该，"人工更快"筛的是划算不划算。 两个筛子叠着用：时间充足，可以多交给AI；有deadline赶着，效率也是硬约束。

但不管哪种情况，万事皆可AI，不意味着事事该用AI。

三、输出端：AI的输出必须由人核验，关键决策必须人来。

AI可以帮我们写安全培训大纲、应急演练脚本，可以做视频、出图片，但发布之前，必须逐条审核。

即使提示词再完善，也总会有疏漏——AI不知道车间里谁适合承担什么应急角色，这些变量只有我们知道。

纽约律师翻车的根因是什么？不是用了AI，是没有核验AI的输出。

AI引用的法规条款，即使是在封闭知识库里，也必须由人工核实；AI生成的数据，必须对照原始记录校验。

工具是帮我们查的，不是替我们查的。

核验之外，还有拍板。比如一份承包商进场安全协议——AI可以起草条款，但安全目标、双方权责划分、处罚标准，这些涉及价值判断的内容，必须是我们根据公司实际情况定的，因为AI不知道那个承包商的"前科"。

处置决策、应急响应、重大事故隐患认定——凡是涉及价值判断的环节，拍板必须是人。

AI提建议，人做决策，人担责任。

输入端管住数据，处理端管住分工，输出端把住核验和决策。

就像食品安全的原料关、加工关、出厂关，三道关一道不能少。

有了防线，我们才敢放心用；放心用了，AI才能真正帮上忙。

用AI但不依赖AI，本质是守住人的位置

回头看这两层恐惧——怕AI出错我担责，怕自己用好了被替代——其实是一枚硬币的两面。

怕出错，是因为我们把AI当成了"替我们干"的工具，出了错当然是我们的。

怕被替代，是因为我们把自己当成了"跟AI比效率"的对手，比不过当然焦虑。

但安全老兵不是工具，也不是对手，是飞行员。

飞行员不会因为副驾驶能算油量就怕被替代，也不会因为副驾驶偶尔读错仪表就不用副驾驶。

用AI但不依赖AI，就是这种关系——AI能干的让它干，AI不能干的人来干，AI干完的人把关。用AI不是把方向盘交出去，而是多了一双帮我们看路的眼睛。

更深一层——我们前面说"学会和AI说话"，本质是把自己的工作经验变成数字逻辑。那"用AI但不依赖AI"呢？本质是守住人在安全管理中不可替代的位置：判断力和责任感。

AI可以识别隐患，但判断哪个需要立即整改、哪些需要花时间用资源，是我们的活。

AI可以生成整改方案，但签字确认整改到位，是我们的活。

AI可以分析事故数据，但站在事故现场做应急决策，是我们的活。

这些不是AI做不了，是AI做了没人担责。安全管理的最后一道防线，不是技术，是人。

知道什么该交给AI、什么必须自己来——这不是保守，是清醒。

清醒的安全老兵，才配用好AI。

下一篇，我们聊最后一个习惯——也是所有习惯的底座：做个终身学习者。

本文是"AI时代，高效能安全老兵的7个习惯"系列第六篇。下一篇：习惯七——做个终身学习者。