夜雨聆风学习资料网

ARTICLE · 1147792

苹果准备收紧Mac文件权限:AI助手的便利,要付出多大隐私代价?

苹果准备收紧Mac文件权限:AI助手的便利,要付出多大隐私代价?

10月2日,苹果向开发者宣布:将为Mac的“完全磁盘访问”增加控制,要求用户通过非常明确的操作,才能授予这种高等级权限。

随着AI智能体越来越能自主执行任务,广泛读取个人数据的风险也会增大。

苹果于10月2日发布的开发者公告。

这碰上了桌面AI最想卖给用户的能力:减少询问及用户做决定的频率,让AI自己查找资料,跑完整项工作。

但当AI的权限逐渐放开,从回答问题变成自主替人办事,便利的代价也更具体:它需要储存多少用户信息?交付AI的权限又是否会被滥用?

一次授权,远超一次任务

完全磁盘访问原本主要是为了让备份类应用正常工作。在苹果看来,一些开发者正在以可能让用户面临风险的方式使用它,触及文件、邮件、消息乃至浏览历史,而用户未必充分理解这些访问。

备份软件需要把资料保存下来,用户大致知道它为什么要接触大量文件。AI助手则可能从资料中提取关系、判断意图,继续决定下一步做什么。

同样一份聊天记录,放在备份里是等待恢复的数据;交给能自主行动的助手,里面的人名、行程和工作安排,都可能成为它执行任务的线索。

苹果现行用户指南:完全磁盘访问涉及邮件、消息等数据。

权限的范围可以固定,AI使用这些数据的场景却会不断变化。

假设用户只想整理一个项目文件夹,产品却为了后续跨应用服务,要求先开放更广泛的访问。为了处理眼前的任务,让软件拿到一段时间内持续使用数据的能力,这两者间的差距很难只靠“让AI更懂用户”向苹果解释清楚。

苹果还指出,通信应用的数据访问会涉及用户正在交流的其他人。对方发来的合同、客户信息或私人消息,也可能进入助手能读取的范围。授权的人因此未必是所有相关信息的主人。

Muse的争议:用户和产品理解的权限,可能是两回事

Meta在9月推出的Muse,就是从聊天走向执行的产品。它能处理预约、表单和跨应用任务,在专属安全虚拟机中运行,并强调由用户决定给它多少访问权限。

Muse官方演示:旅行规划、学校资料和物品清单。

这类产品的吸引力很直接:用户交代目标,助手负责中间步骤。找资料、串联不同应用,本身就是产品能力的一部分。

Meta还承诺,用户可以调整或撤回服务访问,查看助手做过和准备做的事;发送邮件、购物等敏感操作,会先征求确认。

但一段实际使用经历,让这种能力的边界变得敏感。

《Inc.》记者Jason Aten报告称,他在测试Muse时,发现助手根据自己与同事的私人消息主动提出工作建议。他认为自己没有要求它读取这些聊天,也没有意识到相应数据会被这样使用。

据他后续报道,Meta方面解释,启用消息访问后,Muse会同步相关数据库;同时承认,助手对自身如何取得信息的解释出现了错误。双方对授权过程的理解仍有分歧。

Muse官方演示的主动建议页。

这个案例值得产品团队留意的是:助手无法解释自己如何做到用户未预期的事。

用户很难据此判断,问题出在自己授予的权限、产品的实际行为,还是AI临时生成的说明。“主动服务”就可能变成一次令人不安的数据访问。

对于涉及隐私的产品,解释能力必须来自可核对的访问记录与清楚的设置。让模型根据上下文回答“我为什么看到了这些”,很难承担这个责任。

Muse官方演示的任务状态与活动记录。

授权收紧后,哪些AI产品更难卖?

苹果目前宣布的是增加授权控制,对产品的影响可以先从对权限的依赖程度来看。

只处理用户主动选中文件的工具,任务与数据范围比较接近。用户要总结一份报告,就交给它一份报告,产品也能在这个范围内展示价值。

希望长期了解用户、跨应用主动安排事务的助手,则需要解释更广的访问。邮件、消息、浏览记录分别能帮它做什么,为什么当前任务需要这些资料,会持续使用多久,都会影响用户是否愿意继续。

如果一款产品必须先拿到大量权限,才能让用户看到价值,更明确的授权就可能增加它的使用门槛。

这对新产品尤其棘手。用户还没有积累足够信任,软件却先要求交出大量信息;越强调“一切自动完成”,越容易让人追问:它究竟会自动做些什么?

Muse官方演示:持续跟进日程、旅行等目标。

反过来,能在有限资料里完成一个明确任务的产品,有机会更早展示价值。用户先看到结果,再决定是否开放下一项能力。它的自动化范围可能较小,但授权理由更容易理解。

跨应用工作确实有价值,产品需要把这份价值讲到具体任务上,让用户有理由逐步开放更多能力。

云端隔离也只回答了部分问题。像Muse强调的安全虚拟机,可以解释任务运行的环境;用户仍然需要知道,哪些个人数据进入了这个环境,又被用于哪些任务。运行环境的安全和数据使用范围,是两项都需要兑现的承诺。

Meta公布的系统架构:运行区域、凭据服务与权限控制分别设计。

便利有多大,授权就要有多清楚

对于开发者,需要关注苹果对高权限授权更明确要求的趋势。产品原先省掉的一些说明可能会需要补全。

界面上多一次确认,当然会增加摩擦;但如果用户是在第一次意外之后,才发现助手能够读到什么,可能会失去对整个产品的信任。

先让用户在有限授权内完成工作,建立对产品的信任,再给出扩大权限的具体理由。

Muse展示的购物确认,就是把一次具体行动交回用户决定的例子。读取信息与执行操作各自需要什么授权,也应该分别讲清楚。

Muse官方演示:用户确认具体订单后,再允许购物操作。

桌面AI的竞争会继续追求更多能力。不过,能替用户完成多少事,最终仍取决于用户愿意交给它多少资料。把授权范围解释清楚,也会成为产品能力的一部分。

相关学习资料