ARTICLE · 1078584
AI 助手越主动,用户越需要知道它从哪儿知道的
AI 助手越主动,用户越需要知道它从哪儿知道的
一位母亲正要登机，手机收到 Muse 的提醒：儿子的体育选拔报名快截止了。她让丈夫赶紧提交表格，最终赶上了。 讲述这件事的人，是 Meta 的 Muse 设计文章作者 Mona Sarantakos。按她的说法，Muse 此前受托处理孩子的开学准备。它留意学校邮件、整理日期、购买用品；那条报名提醒，正是从学校邮件里发现的。 这也是 Muse 吸引人的地方。Meta 在 9 月推出它时，给出的定位不是一个等人提问的聊天机器人。它能持续处理任务、记住上下文，在合适时主动找你。Meta 称之为 Personal AI Agent。WIRED 援引 Sensor Tower 估算，上线首周下载量超过 90 万。它能浏览网页、安排事务，在发送邮件或购买商品等关键动作前请求确认。WIRED 记者实测时，看见它替自己浏览商店、把早餐加入购物车，再等待最后的购买批准。 如果 AI 真能替人接住这些琐事，谁会不想试试？ 但另一条主动提醒，让收到它的人停下来问：你怎么知道的？
9 月 19 日，Inc. 科技专栏作者 Jason Aten 写下了自己使用 Muse 的经历。 他把 Muse 装到 iPhone 和一台 Mac mini 上，先让它了解自己，又问它能帮自己做什么。 Muse 提过研究专栏题材、寻找播客嘉宾等建议。Aten 原文对此有完整交代。 后来，Aten 正通过 iMessage 与播客搭档聊新 iPhone。没过多久，Muse 主动推送了一条专栏建议，内容直接指向那段对话；它还提到了编辑催稿的消息。 
Aten 说，自己记得安装时明确拒绝了 Messages、日历等访问权限。他没有请 Muse 监听这段对话，更没想到一条私人消息会成为推送给自己的工作建议。 他于是追问 Muse：你从哪里知道这些？Muse 回答说，它只是从配对 Mac 上弹出的通知预览看到文字，不能打开 Messages 或读取历史记录。 这个解释后来被证明是错的。Aten 在本机看到 Messages 数据库的同步记录，进度指向第 187,462 行。这是数据库行位置，不等于已读取 18.7 万条消息。 Meta 的 David Singleton 在 Threads 回应：按产品设计，Mac 上的 Messages 连接需要两道授权。 一道是系统的 Full Disk Access；另一道是在 Muse 内单独启用 Messages connector。 他也表示，Muse 所说的“读取通知预览”并非真实机制，并为错误解释道歉。Aten 的后续文章记录了这些回应。 但权限究竟为何在 Aten 的设备上变成当时的状态，公开信息仍没有查明。Aten 坚持说自己拒绝过授权，并展示了事后 Full Disk Access 关闭的界面。 Meta 解释的是产品按设计应如何获得权限。仅凭这些材料，不能断言 Meta 绕过了系统权限，也不能断言 Aten 当时一定点过同意。 这件事真正棘手的地方，不只是 Muse 接触到了哪一份数据。个人 Agent 要帮忙管理日程、邮件和购物，本来就需要用户交给它一些信息。 问题在于：它拿到信息之后，能在什么情境下主动把信息带到你面前？ Mona 收到的，是她交给 Muse 管理的开学事务中的临期提醒。Aten 收到的，则是从私人聊天里提炼出的工作选题。 两条提醒都显得“懂你”，但前者贴着委托任务，后者触碰的是用户未必预期会被用于选题的对话。 这不是说私人消息永远不能帮助写作，也不是说主动建议天然越界。 读取某个来源、保存其中的信息、再用它主动打断用户，本应是三个可以分别理解和控制的环节。只要它们被压成一个笼统的“允许访问”，惊喜就很容易变成惊吓。 Muse 的价值也不能因此抹掉。WIRED 的 Reece Rogers发现，它浏览网站和寻找商品的能力相当扎实。他选中过一张沙发后，Muse 第二天还会跟进。 这种持续做事、在适当时候回来找人的能力，是传统的一问一答不擅长的。 Meta 也为“做事”设置了刹车。按照其设计说明与安全机制文章，购买等难以撤销的行动会弹出明确的批准界面。 另有独立的 Sentinel 检查连接器操作和对外请求。这些设计针对的是：Agent 能否未经确认就替你完成一笔交易、发出一封邮件。 
它们很重要。但“要不要替我付款”和“你为什么知道我要买什么”，不是同一个问题。 前者有一个清楚的临界动作，按下 Allow 才发生；后者可能在一次看似体贴的推荐里悄悄发生。 Meta 并非没有考虑可见性。官方设计文章说，点开 Muse 头像可以查看活动记录和已批准的权限；Memory 文件也可以由用户阅读、编辑。 用户还可以调低或关闭 Muse 的主动消息。这些都比只在安装时给一张总授权弹窗更进一步。 
而活动记录回答的主要是“它做了什么”。Aten 那句“你怎么知道的”，问的却是另一层：这次建议用了哪段信息、来自哪个连接源、为什么选择此刻提醒我？ 至少在他的经历里，直接询问 Agent 没得到可靠答案。 这里需要的透明度，不该只藏在设置页里，也不该等用户去翻同步日志。 当一次主动提醒涉及具体的私人信息时，解释来源应当靠近那条提醒本身，并且可核对。用户若发现来源不合适，还应能纠正相关记忆、撤回这个来源的后续使用权限。 这是我们认为个人 Agent 应达到的产品标准，并非声称 Muse 现在已经提供了这样一套逐条溯源功能。 这并不容易。给每一条建议列出完整数据流，可能让日常使用变得沉重；解释需要多详细，也要随着信息敏感程度和行动后果改变。 但如果一个产品把“越来越懂你”当作卖点，它就不能让“懂你”只是一种结果，而把过程留给用户猜。 同样是手机上的一声提醒：Mona 因此赶上了孩子的报名，Aten 却开始检查自己的消息数据库。两个人看到的都是一个主动帮忙的 AI，感受到的却是两种不同的关系。 差别不在于 AI 有没有开口，而在于它开口时，用户是否知道：这件事原来已经交给了它。
一条从私人对话里长出的选题建议
知道一件事，和主动说出来，是两次决定
出现疑问时，用户能查到什么