警惕AI泄露个人隐私,建议工具增加主动删除功能-夜雨聆风

警惕AI泄露个人隐私,建议工具增加主动删除功能

大意就是A用户把自己简历发给了AI润色，然后B用户在使用AI的时候，几轮对话后，AI把A用户的简历发给了素不相识的B用户，B用户顺藤摸瓜联系到了A，确认了信息的真实性。

这个结果不禁让人细思极恐，现在AI工具已经深入生活中了，很多人的搜索工具，P图工具，文案工具习惯使用AI了，作为工作生活的助理。

而这个案例说明以下两点。

1 AI把所有人发给他的文档，图片是存储下来了

询问AI是否保存文件，什么时候销毁。AI答复如下：

AI给出的结论是会话结束后不会被永久保留

这句话是不能能理解为：会保存，但是时效未知。

但是既然B用户下午使用时候能获取到A用户上午上传的文档，说明信息是至少保留的是小时级别的，至于什么时间销毁，都不得而知，目前也不知道能否从用户渠道发起，主动删除。

2 用户之间没有隔离开

官方人解释的幻觉完全站不住脚跟，AI有的时候是会胡说八道，若返回内容是凭空编造的虚假简历，可归入幻觉；

若返回内容与另一名真实用户上传的简历高度一致，且姓名、电话等均可核验，则更接近系统隔离失效。

典型的数据隔离失效、会话管理不当或越权访问。

3 用户陷入高度风险

用户陷入高度的风险，这次是简历信息泄露，假如用户传了些隐私的图片呢？

有的时候我们身体不舒服，会拍摄图片给AI进行诊断，有时会让AI进行PS图片，转视频等操作。这些资料一旦泄漏，被别有用心的人大量传播，造成的风险后果是难以挽回的。

所以我觉得AI在做到信息安全的层面后，至少增加需要做以下几点功能

让用户心里有数，清楚自己上传了多少文件，都是什么状态。