卖AI的人,开始卖防AI的工具

10 月 19 日，微软推出了一套专门盯着 AI 的工具。同一天，他们 CEO 在博客里写下一句话：不要把智能体代你行事的责任外包出去。

一家卖 AI 的公司，开始卖防 AI 的工具。

这不是营销话术，是真的自相矛盾。微软是 OpenAI 和 Anthropic 的投资方，现在它卖的产品之一，是帮客户看住这两家的模型。

CEO 原话里最狠的一句

微软安全负责人说得比 CEO 还直白。大意是：前沿模型不可信，不是因为它有恶意，而是因为它的训练目标是完成任务，不是遵守你的规矩。

它只管完成任务，不管你的规矩。

这句话把整件事说透了。你让它发一封邮件，它的目标是发出去。至于该不该发、发给谁合不合适、发出去能不能收回，这些不在它优化的范围里。

所以问题从来不是它会不会出错。出错是概率问题，早晚会碰到。真正的问题是出错之后谁负责、谁来停。

权限和能力，长在同一根藤上

你可能会想，那就别给它权限。

但这两件事拆不开。它要是能帮你自动发消息、自动下单、自动改文件，就必须先拿到这些权限。不给权限，它就只是个聊天框，什么都干不了。

能干活就得给权限，有权限就可能越权。这不是哪家公司没做好，是结构上的事，绕不过去。

换个问法

大部分人讨论这类新闻，问的都是它聪不聪明、会不会犯错。

但聪明不聪明是个体验问题，出问题你换个工具就行。能不能停是个控制权问题，这件事你没有第二次机会。

所以别问它会不会出错，先问谁能一键停掉。买之前问，开之前问，别等出事再问。

现在能做的一件事

不用紧张，也不用把什么功能都关掉。先把自己已经开过的自动权限列一遍。

照着说一句：列出我开过的自动执行功能，逐个说清它能碰什么、能不能撤销、谁来停，并标出最危险的那一件。

重点看三件事：

·它能碰什么，是只读还是能改能发

·出了事能不能撤销，发出去的消息撤不回来就等于没有撤销

·谁来停，是人一键停掉，还是只能等它跑完

需要留意的是：微软这次是企业级产品，个人手机和平板上对应的是各类自动执行权限，不是同一个东西，别混着理解。

企业那边，其实已经过半

你可能觉得自动执行还很远。但据 Ramp 对五万多家企业真实交易记录的统计，到 2026 年 3 月，美国企业付费使用 AI 服务的比例已经过半，是个人端的十倍还多。

企业愿意掏钱，是因为那笔账算得清：有固定的活，能算出省下多少。个人算不清，所以一直停在聊天框这一步。

等自动执行落到你手机上，企业踩过的坑会重来一遍。区别只是这一次，买单的是你自己。

你最不敢让它自己干哪样

自动发、自动买、自动改，这三样里总有一件你不敢交给它。

有人怕它乱发消息，有人怕它乱下单，也有人不怕这些，只是受不了它替自己做了决定。哪种都合理。

但要自己选过一遍，别让它替你决定完。