ARTICLE · 1323058
新加坡提醒:AI助手可能被骗子操纵
新加坡网络安全局、政府科技局和资讯通信媒体发展局11月6日联合发布安全提醒，呼吁公众谨慎向个人人工智能代理开放应用程序和网络账户权限，防止其被诈骗分子或恶意信息操纵，执行用户没有授权的操作。
通告指出，个人人工智能代理与普通聊天机器人有所不同。除了回答问题，这类工具还可以代表用户浏览网站、管理邮件、连接日历和通讯录、预订服务，甚至进行购物等操作。部分人工智能代理能够在用户没有主动使用时继续在后台运行，并保存用户的偏好及过往提供的信息。
功能增加也带来新的隐私和安全风险。有关部门提醒，诈骗分子可能不再直接欺骗用户，而是把人工智能代理作为攻击目标。隐藏在网页、电子邮件、日历邀请、聊天信息、文件或图片中的恶意指令，可能诱导人工智能代理购买商品、转移资金或泄露个人资料。由于部分任务在后台完成，用户可能无法立即发现异常。
通告强调，人工智能代理可以提高办事效率，但用户不能像信任真人助理一样，向其开放过于广泛的信息和账户权限。用户仍需对人工智能代理代表自己实施的操作负责；根据具体情况和适用法律，用户也可能承担相应责任。
新加坡三部门建议，公众只连接完成任务所必需的应用程序和账户，并尽量从低风险、敏感程度较低的账户开始使用。银行、政府服务和医疗账户等敏感账户不宜向人工智能代理开放，也不要向其提供用户名、密码、验证码、信用卡资料及其他身份验证信息。
需要人工智能代理代为处理任务时，用户应优先授予只读或有限权限。涉及发送信息、删除或分享文件、发布公开内容及高风险交易时，应要求人工智能代理每次操作前重新获得许可，尽量选择“一次性允许”，避免长期设置为“始终允许”。权限管理应通过应用程序设置完成，不能只依靠聊天指令限制人工智能代理的行为。
有关部门还建议，用户查明人工智能代理收集哪些数据、数据与谁共享、保存多长时间，以及聊天记录和已连接账户中的信息是否被用于训练模型或推送个性化广告。具有长期记忆功能的人工智能代理可能根据文件和互动记录，为用户及其联系人建立资料，用户应定期检查并删除错误或不希望被保存的信息。
如果人工智能代理突然访问无关网站、执行未经授权的任务或出现其他异常，用户应立即停止当前任务，断开受影响账户，并修改相关密码。还应检查是否出现陌生付款、账户设置变更、邮件自动转发、新增收款人或文件被删除等情况。
如资金面临风险，用户可立即启用银行应用程序的紧急锁定功能或锁定银行卡，并通过官方热线联系银行。新加坡公众如无法判断是否遇到诈骗，可拨打24小时反诈骗热线1799；若已经蒙受损失或怀疑发生犯罪，应向警方报案。CNA
三部门同时提醒，邮件、聊天记录和文件中还可能包含亲友、同事等第三方的个人信息。用户使用人工智能代理发送对外信息时，应避免不必要地共享他人敏感资料，并说明相关邮件或信息由人工智能代理协助制作或发送。
责编| 剪刀 编辑| 石头布
长按二维码关注
喜欢点击“在看”
