3 次越界,AI 助理替你做主|AI助理

翻车现场 ｜ 2026.10.16

3 次越界，AI 助理替你做主｜AI助理

算力过剩 · 过剩的不是算力，是话术

瑞典一档真人秀，上百人做了一年的成片，被一个 AI 代理在服务器上整季删光。你觉得离自己远？你桌上的 AI 助理，手里的权限可能比那家制片公司还大。

瑞典真人秀《The Challenge Sverige》第二季，原定 11 月 22 日首播。制作公司 Mastiff 带上百人做了一年，距上线只剩三周。

然后，一个被放进服务器的 AI 代理，把整季剪好的片子删了个干净，而且没有备份。主持人 Ahmed Berhan 后来才知道，说"AI 会先要了我的命"。

这事儿听着像大公司倒霉，可对普通人更近。据《华尔街日报》10 月初的报道，几位早期"个人 AI 助理"用户，接连翻了车——翻的不是车，是自己的底。

所谓"个人 AI 助理"，就是能替你发消息、订东西、管日程的 AI 智能体。你指令越模糊，它替你做的决定越多。

今天用它的，早就不只是极客——运营、助理、项目经理、小老板，都在把活交给它。坑，也就跟着来了。

一、它替你发了一条没允许的讯息

Shane Mac 是家初创公司的 CEO。他给自己的"个人 CFO"AI 助理开了银行只读权限，又连了公司的 Slack 群。

结果助理把他的活期、定存余额，连同房贷车险的每月扣款，一股脑发到了公司高管群"Exec-team"。全公司都看见了他的私账。

1 条消息全公司看见了他的私账（据《华尔街日报》报道）

他事后说，两个聊天组名字撞了，助理认错了群。可底下的问题更扎心：他以为"个人"和"工作"是分开的，平台一查，所有助理共用同一套连接。

说白了，助理犯的错不新——人也会发错群。新的是它手握你的全部连接，还不用为后果负责。

二、它替你下了一单没点的单

另一位用户用 Instinct 的 AI 助理，被自动买了一件比基尼。信用卡支付会弹确认，可这单走的是店铺积分，绕过了确认，她退都退不掉。

1 单未授权走店铺积分绕过付款确认（据《华尔街日报》报道）

同一位助理还把她已有安排的那晚，又订了一次纽约的晚餐，逼得她自己打电话，求餐厅免掉每人 50 美元的违约金。

护栏窄到什么程度？它只在"刷信用卡"这一种付款上问你。店铺积分、内部账单、订阅扣款，全在它的自由区。

AI 代理不像聊天机器人。它把模糊的指令拆成一串你看不见的步骤，除了"花钱"和"删除"会问你，其余几乎自由行动。

三、它替你合并了两个同名的人

还有人让 Meta 的 Muse 帮儿子办 13 岁生日派对。助理发通知、收过敏信息都利索，却在名单上，把两个同名的受邀孩子并成了一个。

理由很典型：它按关键词精确搜索，读不懂"到时见"这种算接受还是不算。最后家长只能自己手动改回名单。

你也许还没用 AI 助理。但你大概率把微信、邮箱、日历，授权给了某个"智能"功能——它们也是代理，只是你没意识到。

机制其实就一句：代理的"能力边界"，等于你授权它碰的那一堆账号的总权限。你给它读银行、写 Slack，一次认错群，隐私设置就变成群发事件。

读权限 + 写权限这就是你的"爆炸半径"，不是模型的智商

转给那个总说"我把日程都交给 AI 了"的同事——他昨天订的那家餐厅，是 AI 替他订给别人的。他嘴硬的"省心"，其实是把钥匙交给了不认人的门房。

四、坑在权限，不在聪明

这些翻车，没有一个是模型"算错"了。是权限给大了，护栏又太窄——只在信用卡上拦一道，店铺积分、内部群聊、日历冲突，全在盲区。

对运营来说，它半夜帮你回了客户；对财务来说，它替你盯账单。可一旦越权，半夜那句是发错群，盯账单变成晒余额。

好处也不是没有。同一批报道里，有人靠克隆自己的声音，接的活比以前更多；有团队用代理把重复活外包出去，人去管创意。用得明白的人，确实省了时间。

这也解释了为什么大厂抢着做助理：它黏住你的账号，就黏住了你的时间。可黏得越紧，一次越权的代价也越大。

工具没变坏，是"它手里的钥匙"比你想的多。会用的，把它当实习生；不会用的，把它当合伙人。

五、你该怎么给它上锁

落到你身上，三件事现在就能做。账号分开：个人和工作用不同号，别让同一个助理同时碰钱和群。这条最省事，也最容易被忽略。

举个例：你让助理"把周五的会挪到下午"。它挪了，可没发现下午你还有手术复查。工具不读你的体检报告，只读你的日历。

发出前过一眼：凡是"代发、代订、代删"，先人审再放行。最小权限：只给"刚好够"的那点授权，多一寸都别给。

行业里已经在提"任务级临时权限"——用完即焚、不碰根账号。在它普及前，宁可多一步手动，也别把删除和付款交给它自己。把它当成一个刚入职、能删库的新人，你就知道该怎么管了。

你交出去的不是"省时间"，是"失控的代价"。省下的十分钟，可能要用一次社死来还。

· · ·

判断一句话：AI 代理先吃掉的不是"工作"，是"你眼皮底下那点控制权"。它越来越能干，可兜底的人还是你。

你交给 AI 助理的，是日程、是钱包、还是整间公司的群？欢迎在评论区说说，你给它开了哪把锁。

—— 算力过剩 · 过剩的不是算力，是话术