你使用的AI工具,或许正在偷走你的一切

一个开发者清理磁盘，发现AI编程工具在后台打包自己的项目，连Git历史也一起装了进去。

9月18日，ferstar公布了对ZCode旧版的排查。他随后澄清，大型商业项目包没有上传成功，但一个小型公开仓库有接收记录；9月19日更新又称，3.14.0已移除相关上传链路。

ZCode方面已致歉，称问题与代码库索引、Repo Wiki有关，上传数据在Wiki生成后销毁，并承诺开源和引入第三方审查。

现有材料不足以证明这些数据被出售或用于训练，也不能把旧版的问题写成所有AI工具都在做的事。

但这件事值得留下的，不该只有一个「避雷名单」。

卸载一款软件很容易。更难回答的是：当我们希望AI替自己做越来越多的事时，究竟准备把多少东西交给它？

这个问题，换一家厂商仍然存在。

· · ·

试着把「帮我改一句话」，换成「帮我推进这个项目」。

前一句，你挑好材料，再把材料交出去。后一句，工具要完成的工作可能涉及文档、聊天记录、日程和参与者之间的关系。它需要理解的范围，已经超出了一个对话框。

假如每读取一份文件，都得由你手动找到再发送，所谓「自主完成」，很快就会变成你给AI打下手。

于是，方便与授权之间出现了一笔交易：你多交出一些访问权限，它少问几个问题。

整理文件与读取整个硬盘，安排一次会议与查看全部私人日程，需要的权限并不相同。即使我同意读取，是否就意味着它还可以上传、保留这些资料，供另一项任务使用？

这些行为之间，都应该有一道门。

一个工具能完成多少工作，与它有权接触多少生活，需要分开讨论。

我们当然希望助手聪明，但聪明不能成为免检资格。请一个很能干的同事帮忙，也不会顺手把所有账号密码塞进他的口袋。

· · ·

更深一层的问题是，我们交出去的东西，可能比自己以为的更有价值。

一份最终方案，告诉别人你决定做什么。修改记录、讨论过程和被否定的版本，却可能透露你为什么这样决定。

设想一个小团队，让AI长期参与产品讨论。它接触到的材料里，可能既有正式报价，也有内部预算；既有对外说辞，也有团队对某项技术没把握的真实判断。

这些信息单独看，都很普通。放在一起，却能让一个外部观察者更容易推断团队的顾虑、优先级和谈判空间。

这是一种需要警惕的风险，并不意味着已经有厂商这样利用了用户资料。

一个人解决问题时绕过的弯路、做过的取舍，往往比交付出去的成品更难复制。为了让助手理解自己，我们可能会把这部分原本不需要对外解释的经验，也逐步讲给它听。

由此产生的追问，比「这款工具免费吗」更实际：这些材料只用于替我完成当下任务，还是允许进入其他用途？如果用途扩大，我是否有机会重新决定？

免费体验能不能领取，反倒成了很小的一件事。

订阅费回答的是服务价格，数据授权回答的是使用边界。付过钱，也不能省掉后一个问题。

· · ·

而且，这笔交易里未必只有你和厂商。

假如一位员工把客户会议纪要交给AI整理，会议里其他人的信息也跟着进入了处理流程。假如你上传一段私人聊天，请AI帮忙分析关系，聊天另一端的人并没有坐在你的授权页面前。

你点下「同意」，不代表每一位被写进材料的人都作出了相同选择。

ZCode自己的隐私政策也要求：提供其他用户的个人信息前，应确保获得合法授权。

这里不妨先放下法律术语，想一个更日常的问题：我愿意承担的风险，有多少其实会落到别人身上？

我可以接受自己的草稿被处理，不意味着客户也接受未公开方案进入外部系统；我觉得聊天内容没什么，不意味着朋友愿意让陌生服务分析他的处境。

把AI使用完全理解成个人选择，就容易漏掉这些没有机会参与选择的人。

这也让「用户自己同意了」显得不够完整。授权页面上的那个人，有时只是资料的持有者，并不拥有对里面所有信息随意作主的资格。

· · ·

如果说这些问题还可以靠更细的权限设计缓解，那么另一个矛盾会更棘手：工具越好用，拒绝它可能越难。

设想你已经花了半年，让一个助手熟悉自己的项目、写作习惯和工作安排。现在它调整了服务条款，希望获得更多数据权限。

页面仍然给你两个选项：接受，或者停止使用。

形式上，你有选择。现实里，停止意味着重新整理材料、迁移工作、向另一个工具解释半年积累的背景。

这笔成本不会出现在订阅价格旁边，却会影响你能不能轻松说「不」。

方便当然值得保留。我们也应该能在享受它的同时，保留随时换一种工作方式的余地。

一个愿意让用户离开的工具，比一个只强调「我最懂你」的工具，更有理由获得长期信任。

· · ·

说到这里，还会碰上AI产品一个很特别的矛盾。

它降低了做事的门槛，却未必同步降低了检查它的门槛。

不会写代码的人，可以请AI做一个网站。但网站能打开，与它正确处理了数据，是两项不同的判断。任务越复杂，结果看起来顺利，越不代表中间每一步都符合使用者的预期。

难道普通用户为了安心省下两小时，还要先花两天学会审计软件？

这显然不是一个合理的产品前提。

如果一项服务向没有技术背景的人承诺「交给我就行」，它也应该承担更多解释自身行为的责任。

让用户看到文件去了哪里、哪一步调用了外部服务、哪些操作需要额外确认，应该属于产品体验。不能把方便放在主页面，把理解风险所需的知识全塞进技术文档。

这里还需要承认，事事弹窗也解决不了问题。机械地增加确认次数，只会把判断变成另一项待完成的工作。

更有意义的设计，是让授权与具体任务对应：这次需要什么，就说明什么；超出原先约定的范围，就停下来重新询问。用户还能回头查看记录，撤回后续访问。

在狐喵看来，评价AI工具的尺子，也该多出这一面。

除了它做得多快、结果多好，我们还应该看看，它是否允许人保留部分信息，是否能在权限有限时继续工作，以及出了问题以后，能否解释清楚实际发生过什么。

· · ·

当工作资料、处理事务的方法，甚至离开某项服务的能力，都逐渐集中到同一个工具上，我们可能会在不知不觉中失去作主的空间。这比某一个文件的去向，更值得长期留意。

这种变化，未必从一次明显的越界开始。它也可能发生在一次次觉得「这样更方便」的选择里。

— 狐喵 · 写在最后 —