不是叫你别用 AI。是想说,你以为在用工具,工具也在记录你。
最近我写了两篇文章,一篇聊 ChatGPT 接入银行账户,一篇聊黑客开始用 AI 自动挖漏洞。
有人可能会觉得:这听起来离我很远,我就是个普通人,跟我有关系吗?
有关系。而且关系比你想的要近。
AI 让攻击变便宜了。以前精准诈骗一个人,要花时间专门摸底;现在 AI 可以同时处理一万个目标,每个人都收到量身定制的骗局。普通人反而成了性价比最高的猎物,不是因为你有钱,而是因为你没有防备。
第一件事
你粘进对话框的东西,比你意识到的多
想一想你最近一个月用 AI 干了什么。
帮你写邮件,顺手把收件人的名字、公司、背景情况都填进去了。帮你改简历,把现在的薪资、想去的公司、真实的工作经历都说了。帮你翻译文件,文件里带着客户名称和合同金额。帮你分析一个问题,把内部项目的名字提了一句。
每一件单独拿出来看,都不算什么秘密。但攒在一起,就是一份关于你的很完整的档案:你在哪里工作,做什么,认识谁,手里有多少钱,最近在烦什么事。
有研究人员指出:AI 系统即使没有直接泄露数据,也能从大量对话里推断出你没有明说的敏感信息。你以为只是问了一个问题,它已经学到了很多。
这份档案存在哪、会不会被用于模型训练、会不会在某次数据泄露里出现——大多数人不知道,也没想过去查。
需要养成的一个习惯:把真实信息粘进去之前,停一秒问自己:这个平台,我了解它怎么处理数据吗?
第二件事
那封说中你真实情况的消息,才是最危险的
以前钓鱼诈骗很好识别,因为它不了解你——"尊敬的用户,您的账户存在异常",这种话谁都发,没有针对性。
现在不一样了。
如果你的数据曾经流过一个不安全的平台,攻击者就可能知道:你在哪家公司,用什么邮箱,最近在关注什么,甚至你持有什么资产。
然后你收到一封邮件:"您在 XX 平台的账户于今日检测到异常登录,请点击核实。" XX 是你真实用过的平台。发件人名字看起来也对。
收到的消息说中了你真实情况的时候,你反而应该更警惕,不是更放松。说得越准,越可能是因为对方已经知道了你的一些信息。
这个逻辑很反直觉,但值得记住。
第三件事(给有在做生意的人)
视频里的那个人,不一定是真人
这一条主要是给做外贸、做生意、经常和陌生人远程谈合作的人。
AI 现在可以实时克隆一个人的声音和面孔,放进视频通话里。画面流畅,表情自然,对方说话的语气和习惯也能模仿得八九不离十——因为它训练过这个人的大量视频素材。
2025 年已经有跨国公司的财务人员,在一场视频会议结束后,把钱打到了一个从没用过的账户。会议里有"CEO",有"CFO",全是假的。
一个简单的自我保护动作:任何要求改付款账户、改收款信息的,不管视频里的人有多像,都要通过另一条完全独立的渠道再确认一次。哪怕只是发一条短信问一句。
第四件事
门槛正在消失,但大多数人还不知道
发动网络攻击这件事,以前的门槛很高,需要真正懂技术的人花大量时间才能做到。
去年底,日本有个 17 岁少年,没有专业背景,用 AI 工具盗取了 700 万用户数据。他的动机是买宝可梦卡牌。
今年 5 月,谷歌确认了第一个由 AI 协助开发的零日漏洞攻击——那种连厂商自己都不知道存在的漏洞,被犯罪团伙用来破解双重身份验证。这是第一次被公开记录,不代表是第一次发生。
现在修复一个高危漏洞平均需要 74 天。AI 发现和利用漏洞的时间,正在被压缩到以天计。这中间的空档,就是所有人最脆弱的时候。
投资人要多注意的是:把持仓信息、账单截图喂给 AI 工具之前,先确认这个平台的数据政策。精准的财务画像,比密码更有价值。
不想给你列一张十条安全守则的清单,那种东西看完就忘。说几件现在就能做的具体事:
一、找一下你在用的 AI 工具里有没有"数据用于训练"的开关,有的话关掉。大多数平台默认开启,不会主动提醒你。
二、把真实的公司名、客户名、内部信息粘进 AI 之前,先脱敏。把关键词替换成"某公司""某客户",问题照样能回答。
三、涉及打款或改账户的,无论对方视频里多像真人,都再通过另一条渠道确认一次。
四、消息里说中了你真实情况,反而要多想一秒,不要因为"它怎么知道的"就觉得是真的。
AI 让很多事变得更容易,包括骗人这件事。在这个时间点,比起学会用 AI,更值钱的可能是知道什么时候不要全信它。
夜雨聆风