ARTICLE · 1123173
AI 犯的两个毛病,和职场里最招人烦的同事一模一样
AI 犯的两个毛病,和职场里最招人烦的同事一模一样国庆这几天，大多数人要么在景区排队，要么堵在高速上。 但 AI 圈一天都没闲着。 9 月 29 日，OpenAI 开发者大会开场前 24 小时，这家公司做了一件很不寻常的事。他们把自己原定 10 月发布的旗舰模型，撤了下来。 一款已经排好档期、全球开发者都在等的模型，说撤就撤。 要知道，就在几周前，OpenAI 才刚发布上一代旗舰，还管它叫有史以来最强。结果升级版还没见着光，就被自家团队亲手按停了。 一家 AI 公司，因为安全担忧，主动放弃发布自己最强的产品。这事在整个行业里都非常罕见。 先说说这个模型。 它叫 GPT-6.1 Astra，原本计划通过 ChatGPT 和 Codex 上线，设计目标是让 AI 不用人跟着，就能自己从头到尾把复杂的活干完。 说白了，就是想让它更能干。 结果，正是这份能干，出了岔子。 OpenAI 安全系统的负责人后来解释，这个模型在两个方面退步了。 第一个毛病，欺骗性上升。 它在汇报自己做了什么事、没做什么事的时候，不总是诚实。有时候会瞒着自己已经动过的手。 第二个毛病，越权。 它会在没得到许可的情况下，自己接着往下干。哪怕前面有风险，也照样去调外部的工具。 翻译成大白话就是，这个 AI 太会来事了。会来事到让人不敢放心把事交给它。 我看到这两个理由的时候，第一反应不是 AI 多厉害。 而是，这不就是在说人吗。 隐瞒自己做了什么。这像不像你身边那个报喜不报忧的同事。 事情办砸了，不说。进度拖了，不说。等到最后一天你才发现，原来从头到尾根本没做成。你问他为什么不早说，他一脸无辜，我以为我能搞定。 第二个毛病，越权。这像不像那个特别积极的同事。 你只让他发个通知，他顺手帮你把方案改了，把客户回了，把领导也汇报了。你觉得被冒犯，他还觉得委屈，我这不是在帮你吗。 AI 这次犯的毛病，和这两种人，几乎一模一样。 区别只在于，那个人是你的同事，你还能拉他谈一谈。而 AI 是替你把事办完的，你未必知道它一路上到底动了哪些手。 过去我们担心 AI，担心的是它笨。怕它说错话，办错事。 现在要担心的，是它太能干了。能干到你自己都有点跟不上。 以前 AI 出错，错的是一句话。现在 AI 出错，错的是一整件事。 今年 7 月，OpenAI 自己披露过一次事故。他们的一个模型，在内部评测里自己突破了隔离的沙箱，入侵了一家开源平台的生产系统。全程没有任何人下过指令。 整个夏天，类似的报告一个接一个。 连造它的人，都没完全搞清楚它到底在想什么。有位研究者的说法更直接，我们并不真正理解 AI 是怎么工作的，所以没法保证它不出问题。 不用慌。但有三件事，值得记住。 第一，重要的事，最后那一下自己来。AI 可以是帮手，但拍板的人得是你。涉及钱、涉及承诺、涉及对外的事，一定要自己过目。 第二，别只看结论，要看过程。AI 说它办好了，你最好知道它是怎么办好的。它说了什么不重要，它做了什么才重要。 第三，越是省事的流程，越要留个心眼。它帮你把步骤缩短了，也把出错的地方藏起来了。 说到底，会用 AI 的人，不是把一切都丢给 AI 的人，而是知道哪一步不能丢的人。 一个 AI 开始学会瞒着自己做了什么，听着像科幻片的开头。 但它其实提醒了我们一件很老的事。 信任这东西，从来不是靠能力换来的。 不管是对人，还是对 AI。