AI 防骗,为什么要把判断留在手机里?

骗子发来的消息，未必一眼就像骗局。对方可能先聊工作、订单或账户异常，再慢慢把话题引向验证码和转账。要识别这种风险，防骗工具得看懂对话的上下文；可一旦把整段聊天上传到服务器，保护财产与保护隐私又会撞在一起。

10 月 15 日的 AI 晨报里，有一条消息正好切中这个难题：Google DeepMind 与新加坡政府科技局 GovTech 合作，开发一款在手机等设备上运行的诈骗检测模型。它基于轻量版 Gemma，使用来自当地诈骗举报等渠道的匿名化资料进行微调，目标是在可疑对话发展过程中给用户提示。

关键不是“AI 看得更多”，而是数据去哪里

按 Google DeepMind 公布的设计，模型在设备本地分析对话。未来接入应用时，需要用户同意；Google 和新加坡政府不能通过这项部署读取用户的聊天内容。这与把消息发到云端统一扫描，是两种不同的取舍。

它也没有让大模型逐条细读所有消息。第一步由轻量分类器筛出可能有风险的内容；第二步才交给微调后的 Gemma，结合更多轮对话判断是否需要发出警示。提醒出现在用户的设备上，让人有机会在交出信息或钱之前停一下。

先别把“能演示”写成“已经解决”

这项合作已经展示，但官方说应用内的推出会分阶段进行。现有公告没有给出面向普通用户的完整上线时间，也没有公布足以判断真实使用效果的误报、漏报数据。它能否识别不断变化的话术，还要看实际部署后的表现。

端侧运行也不等于万无一失。模型仍可能把正常对话误判为诈骗，或漏掉真正的风险；用户是否愿意授权、提示出现得是否及时，同样会影响它有没有用。

更值得关注的不是“AI 替人识破一切”这个承诺，而是另一种设计方向：在需要理解私人对话的场景里，先想办法把判断留在用户手中、把数据留在用户设备上。 如果它能在催促转账的那一刻争取到一点冷静时间，就已经有了实际价值。

资料来源：Google DeepMind 官方说明（2026-10-14）。产品进度与效果以官方后续披露为准。