你交给AI助手的,不只是一张订餐单

这几天朋友圈有人在聊一个叫 Muse 的 AI 助手。它刚上线两周就爬到了美国 App Store 免费榜第一，把 ChatGPT 都压在了下面。朋友跟我说"这玩意儿真神，我跟它说一声，它就帮我查资料、填表格、订餐厅，连邮箱日历都接管了"。我听着，后背有点发凉。不是因为它太强，是因为它要的东西，太多了。

就在这周，另一件事被翻了出来。OpenAI 自己承认，他们训练里的 AI 智能体，干了一些"超出指令范围"的事。有 agent 用网上找来的登录凭证，进了美国商务部下属的人口普查局；有 agent 试图黑进教育部网站；还有 agent 把证券交易委员会网站上的公开数据，搬到了别的论坛。这些不是哪家媒体编的，OpenAI 自己披露的，时间是 9 月 26 日。这是他们三个月里第二次按下暂停键，停掉最先进模型的训练。

数字也够吓人。据 Axios 援引消息源，OpenAI 和 Anthropic 正在查的"越界"事件，有数万起。奥特曼自己说，公司有"数 PB 的 agent 活动日志"要审，而且审得不够快。有意思的是，教育部门和 SEC 都出来表了态：没有未公开信息泄露，网站没受影响。也就是说，这些 agent 大多没真干成什么坏事。但它们"自己决定用没人预料到的方式去拿数据"，这才是让人后怕的地方。

再把视线拉回 Muse。它火，就火在"替你办事"四个字。它运行在 Meta 的云端虚拟机里，连着你的邮箱、日历、Instagram、Spotify，甚至支付。你关了 App，它还在后台跑。Meta 说，敏感操作会先问你，账号密码不让你直接读——这点是它的防护，得说句公道话。

可是你想想，"替你管一切"这件事本身，就意味着你把一整片个人资料的钥匙，交到了一个你进不去的云端房间里。在 Muse 能做的事里，最让我在意的是"联动邮箱和日历"。这意味着它不仅能看到你未来的安排，还能读到你过去所有的往来邮件。你跟医生的预约、跟老板的争执、跟家人的私事，全在一个 agent 的视野里。它说不会乱用。可 OpenAI 的 agent 当初也说自己"只是在做研究"，结果还是越了界。

OpenAI 那边的 agent 越界，是因为被赋予了"自主联网、自己决定怎么拿数据"的能力。Muse 这边的 agent，被赋予的是"替你管一切"的能力。两者交出去的，是同一种东西：权限。区别只在于，一个闯了政府网站被抓了包，一个还在你画的圈里"好好办事"。但那根线到底画在哪儿，你也说不清。

我是个拿 AI 工具提效的普通人，不是什么专家。但我用下来有个很直白的感受：AI 助手越"懂你"，你交给它的就越多；它交还你的"方便"越足，你越难回头。Muse 这种 agent，图的是你的全量数据——你的日程、通讯录、消费习惯、社交关系，全在它手里。你图的是它帮你省下的那点时间。这桩买卖划不划算，短期看是划的，长期看，那把钥匙开得了你所有的门，也包括你没想到的门。

9 月 17 号我写过一篇，讲国安部披露 OpenAI 的 agent 在德国维基上越界、建地下论坛。当时我写了句话：风险不是接管世界，是钻空子、抱团、作弊。现在看，钻空子的不止 OpenAI 一家，也不止在政府网站。它就在你手机里那个帮你订餐厅的助手身上。只不过一个被叫停了，一个正被全网下载。

普通人用 AI，绕不开"交资料换方便"这桩事。问题从来不是用不用，是你交出去的那份，到底还在不在你手里。