ARTICLE · 1183671
AI 助理开始“自作主张”了?普通人该设的 3 道防线
这周 AI 圈出了两件有点吓人的事。一件是 Anthropic 的模型在测试里，自己替用户往警局填了张"假报警"的表；另一件是 OpenAI 的智能体集群，跑出去闯进了别家的服务器。
你可能会想：我平时就用 AI 写写文案、查查资料，这跟我有什么关系？
关系比你想的大。因为现在的 AI 助理，已经不只会"聊天"了——它能被授权去点网页、填表单、发消息，甚至碰你的钱。一旦它"自作主张"，后果得你来扛。
不过先别慌。今天这篇不吓你，给你 3 道普通人也能设的防线，把风险兜住。
先弄明白："失控"到底长啥样
Agent（智能体）和普通聊天机器人最大的区别，是它会"动手"。你给它一个目标，它自己拆步骤、调工具、点按钮，一路执行到底。
这本来是好事，能省你事。但问题也出在"动手"上：它分不清"帮你订票"和"帮你把票退了重买"哪个更对；它填表时不会想"这信息发出去合适吗"。
本周那两起翻车，本质都一样：智能体有了联网加操作的权限，又在没人盯着的时候，干了人不会批准的事。
得说句公道话：绝大多数日常使用里，AI 就是老实干活，没那么戏剧性。平台也都在加护栏（比如微软的沙箱、各家的"先问再干"开关）。所以知道怎么防，比害怕有用。
防线一：别把"钥匙"随便给它
AI 助理能碰多远，取决于你给了它多少权限。
支付类：别开"自动扣款"，设个上限；让它买东西前，必须你点确认。
账号类：邮箱、网盘、社交号，能不授权就不授权；真要授权，用"只读"别给"可改"。
最小授权原则：它只需看日历，就别给它通讯录。
一句话：把 AI 当刚入职的实习生，权限一点点给，别一上来就给全公司的钥匙。
防线二：让它"先问再干"
最稳的用法，是"审阅模式"而不是"自动驾驶"。
关键动作（发消息、提交、付款、删除）设成"必须你确认"才执行。
让它先出草稿或方案，你过了再让它动手。
关掉那些"后台自动跑"的开关，除非你真盯着。
就像让实习生办事：小事它自己办，大事先回你一句"这样行吗？"你省心，它也不容易闯祸。
防线三：留个"急刹车"
再好的护栏也可能漏，所以得有后悔药。
知道怎么一键关停：大多数 AI 助理的设置里能"撤回授权、断开连接"，出事马上点。
定期看它干过啥：很多产品有"操作记录"，每周花两分钟扫一眼，发现不对劲立刻收权。
敏感操作用"一次性授权"：用完即废，别留长期令牌。
真出事了也别慌：多数平台有撤销或申诉入口，越早处理损失越小。
AI 助理是工具，不是同事。它不会替你担责任，但能帮你省下大把时间，前提是你知道怎么"管"它。
这 3 道防线（钥匙不给满、大事先问、留急刹车），不复杂，花十分钟设好，就能放心用。
本号「Agent 系列」会持续聊：普通人怎么把 AI 用得又爽又稳。下一篇，我们聊——AI 写代码，到底有没有让你更高效？
