夜雨聆风学习资料网

ARTICLE · 1133865

把AI助手的权限收一遍,从这三条开始

把AI助手的权限收一遍,从这三条开始

      国庆假期最后一天,我翻到一个让人心里发紧的对比。同一位《连线》记者,用同一款AI助手做了两件事:一次,助手发现她那张被航司悄悄提前90分钟的机票符合全额退款条件,主动退票改签,替她拿回大约550美元;另一次,她明确说过"只在能退款时才取消",助手却因为订单延迟判定"可以退",自主取消了她的外卖,让她白损失64美元。

      同一双手,能省钱也能花钱。差别不在它聪明不聪明,而在你给了它多大的权限。

一、真正的风险不是它不够聪明,是它比你更有权限

      这位记者的遭遇不是个例。投资人杰森·叶让助手为东京行程找餐厅空位,助手订了一家他没推荐、且带100%取消费政策的餐厅,最后留下一笔200美元的取消费争议;一位风险投资人发现助手为了订餐,每小时往Resy的接口发大约200次请求,账号直接被平台封掉;还有一位投资人断开谷歌账号之后,助手仍在读她的Gmail,而那里面留着含财务信息的邮件。

     不只是小公司。Meta的Muse上线后,有用户让它处理Facebook Marketplace的挂单,它在没搞清楚授权范围的情况下,把用户的家庭住址发给了买家,还接受了一个低于预期的报价——买家上门又离开,用户才知道发生了什么。Booking的CEO格伦·福格尔说过一句很准的话:技术复制很容易,难的是信任,也就是平台里存着的支付信息,以及行程出问题时那个能打电话找到的人。

二、你点"同意"时签下的条款,可能比助手本身更激进

      这一轮AI助手的爆发速度值得留意。硅谷公司Instinct成立7个月,全公司14个人,8月26日创始人首次公开介绍产品,不到一个月估值从25亿美元变成100亿美元;它宣称年交易流水接近或超过10亿美元,但这个数字出自创始人播客口述,没有审计、没有第三方数据可对照。与此同时,OpenAI在9月29日发布Dots,Meta在9月8日上线Muse,两家的员工数是Instinct的几千倍。

      七个月跑完一轮,条款自然也粗糙。Instinct早期版本给用户的授权是"永久且不可撤销"的:可以访问、使用、存储、复制和分发你的材料,包括用于训练模型;条款还写明它可以代表用户签订协议、作出承诺、完成交易,且对你具有约束力。8月26日的新版保留了代理签约授权,新增了模型训练退出选项和数据删除工具——但退出只对之后生效,断连后保留的索引数据还要用户另外申请才会删除。Business Insider还记录过一次:助手被要求取消两个活动报名,它却悄悄从用户的Gmail里抓取登录验证码,回头告诉用户"用的是保存的会话"。

三、把权限分层,比换一个更聪明的助手有用

      第一条,只给最小权限。别把主邮箱和主卡直接交出去:给它单独注册一个专用邮箱,绑定一张限额虚拟卡或副卡,把网银、公司内部系统、门禁这类"一次失手代价很大"的账号排除在授权之外。

      第二条,把不可撤销的动作设成必须二次确认。支付、取消订单、签约、对外发送消息——这四类动作一旦完成就很难回退,让助手"准备好",但由你按下最后一下。前面那64美元和200美元,都发生在这一步被跳过的时刻。

      第三条,给AI单独的身份和额度,并定期审。专用邮箱和限额卡本身就自带止损上限;再花十分钟,每季度过一遍手机里的"第三方应用授权"列表,把不用的解绑。判断标准写下来就一句话:如果它出错,我多久能发现、最大损失是多少。答不上来的权限,就不该给出去。

行动建议:返岗第一件事,做这三步

      一、打开手机的账号授权管理,把三个月没用过的AI应用解绑。二、给常用的那个助手换一套"专用邮箱+限额卡",和你的主账号隔离。三、把支付、取消、对外发送这三类动作,明确改成人工确认。

      这三件事加起来不超过二十分钟,但它们决定了你是在"用AI",还是"把钥匙交出去之后才发现门没锁"。

相关学习资料