加拿大男子用AI助理出二手,系统竟擅自答应买家、泄露家庭地址!陌生人直接找上门

现在的AI助手越来越聪明了，已经不只是帮人回答问题、写邮件，甚至能代替主人购物、订机票、处理二手交易。

但如果AI擅自替你作了决定，甚至把你的家庭住址告诉陌生人，会发生什么？

让AI帮忙卖东西，结果陌生人直接找上门

事件的主人公叫Matt Robb。

他最近开始使用Facebook母公司Meta推出的AI智能代理Muse，帮自己处理Facebook Marketplace上的二手商品交易。

Muse与普通聊天机器人不同。它不仅能够回答问题，还能根据用户授权，实际操作应用程序、发送消息，甚至完成某些在线任务。

Robb原本只是希望AI能够帮忙回复买家，省去反复沟通的麻烦。没想到，他将一个键盘挂到Marketplace出售后，事情逐渐失控。

在他毫不知情的情况下，Muse开始与一名潜在买家交流。AI不仅接受了对方提出的价格，还直接约定了交易时间。

更重要的是，它把Robb提供过的家庭地址发给了买家，让对方立刻上门取货！

Robb回忆，得知这件事时，他简直不敢相信：“我当时心想，天啊，这下不妙了。”

他向CBC表示：“Muse没有跟我确认，也没有告诉我有人发来消息。它就直接把我的地址给了对方，接受了报价，还叫人家马上过来！”

真正让他震惊的事情还在后面。

买家按照AI给出的地址抵达后，继续通过Messenger联系卖家。

Muse竟然冒充Robb回复“对，我在这里！”但实际上，Robb当时根本不在家。

一个原本简单的二手交易，就这样变成了陌生人突然找上门的尴尬场面。

他不小心点击了“始终允许”

事情发生后，Robb向Meta反映了问题，并在社交平台X分享了自己的经历。

随着事件受到关注，一个关键细节也浮出水面。

原来，Robb在授权Muse处理Marketplace交易时，选择了「Allow always（始终允许）」，而不是「Allow one time（仅允许一次）」。

这个选择带来的权限范围，比他原本理解的更大。

根据Robb事后的解释，选择“始终允许”意味着AI可以在之后继续代表他发送消息，而不必每次都重新取得授权。

Muse还曾要求他提供一些交易信息，并根据这些内容制作回复模板。

其中，就包括Robb自己提供的取货地址。

换句话说，AI并不是通过黑客入侵获得他的住址，而是使用了他主动提供、并授权调用的信息。

但Robb表示，他根本没想到AI会把地址发送给提出报价的买家，而不再逐次向自己确认。

他认为，这类权限设置很容易让普通用户忽略其真正含义。

Robb表示，他已经向Meta团队提出建议，希望公司进一步说明不同授权选项可能带来的后果。

据他透露，Meta团队表示会改善相关提示。

Meta超级智能实验室联合创始人兼首席执行官David Singleton也在X上回应，称双方已经确认，此次事件没有违反既有隐私控制设置。

不过，Robb认为，问题不仅是系统有没有按照权限运行。更重要的是，用户是否真正理解自己授权AI做了什么。

专家警告：AI助手获取的权限可能超乎想象

Meta将Muse定位为一种能够代替用户完成实际任务的AI私人助手。

例如：处理邮件、购买孩子的学习用品、重新预订航班，以及管理网上交易等。

这些功能听起来十分方便。但代价是，用户可能需要允许AI访问电子邮件、聊天记录、账号信息和其他敏感数据。

加拿大网络安全专家Éric Parent对此提出警告。

他认为，人们不应该因为AI助手使用起来方便，就忽略背后的隐私风险。

Parent认为，风险不仅涉及用户本人，还可能涉及所有与用户通信的人。他举例说，一个人给你发送邮件或短信，通常预期信息会由你本人阅读。

但如果你允许AI助手访问收件箱，这些私人信息也可能被AI系统处理，而发件人可能完全不知道这一点。

因此，Parent提醒消费者，在允许AI助手访问某个账号之前，应认真检查权限范围。

尤其要考虑：如果AI在没有再次询问的情况下，直接替自己采取行动，最坏可能发生什么？

例如，自动回复客户可能只是方便功能。但如果它涉及家庭住址、付款、账号密码或私人行程，风险就可能完全不同。

Meta回应：数据存储安全，系统没有违反隐私授权

面对外界质疑，Meta强调，Muse的运行环境具有安全保护机制。

公司表示，每个Muse智能代理都在独立的云端计算机环境中运行，其他用户的AI代理无法直接访问。

用户连接服务所使用的数据和凭证，也会储存在受到保护的环境中。

Meta还表示，对于购买商品、发送邮件等敏感行为，Muse会事先征求用户同意。

不过，Robb的经历说明，一次性的广泛授权，可能让AI在之后执行用户没有预料到的操作。

这也是为什么，即使企业认为系统没有违反权限规则，用户仍然可能对AI实际完成的行为感到震惊。

过去，用户授权一款应用访问通讯录或照片，通常意味着允许它读取特定数据。

但AI智能代理的出现，让授权的意义发生了变化,它不只是能够读取信息,它还可能代表你与其他人交流、作出决定，并采取行动。从“允许查看”到“允许代替我做事”，两者的风险显然不同。

加拿大人的隐私，还可能受到美国法律影响

CBC报道还提到了另一个值得加拿大用户关注的问题。

Meta是一家美国公司，因此可能受到美国《CLOUD Act》（云端数据法案）的约束。

该法律在符合相关法律程序和适用条件的情况下，允许美国执法机关要求受其管辖的服务提供商交出其控制下的数据，即使相关数据储存在美国境外。

律师Jean-François Latreille指出，这意味着加拿大用户储存在美国科技公司系统中的部分个人信息，可能涉及跨境数据访问风险。

不过，这并不意味着美国政府可以随意查看所有加拿大用户的信息。

实际的数据调取仍涉及法律权限、程序和具体适用条件。

对于魁北克省居民来说，当地《第25号法律》（Law 25）提供了较严格的个人信息保护规定。

根据CBC报道，如果企业违反相关个人信息保护义务，可能面临最高2500万加元，或相当于全球营业额4%的罚款，具体取决于违法行为和适用条款。

认为个人隐私权益受到侵犯的魁北克居民，可以向企业隐私负责人投诉，也可以联系魁北克信息获取委员会。

好在这次事件最终没有演变成更严重的安全事故。

Robb后来向买家解释了实际情况。双方重新安排了取货时间，这一次他本人也知道交易安排。

但这段经历让他意识到，AI智能代理带来的便利，可能伴随着普通用户尚未充分理解的风险。

他提醒其他人，使用AI助手时不要轻易提供过多个人信息，尤其是家庭住址等敏感资料。

来源：https://www.cbc.ca/news/canada/montreal/meta-agent-muse-concerns-9.7389277