乐于分享
好东西不私藏

AI时代的新骗局:你知不知道你的AI助手被“下毒”了 ?

AI时代的新骗局:你知不知道你的AI助手被“下毒”了 ?

过去,网络黑产(网络犯罪团伙)主要靠骗你点错链接来攻击你,比如做个假网站、发个带病毒的短信。但现在,越来越多的人习惯直接问AI助手(比如某度、某宝、DeepSeek)来获取信息。于是,骗子的手段也升级了:他们不再费劲让你点链接,而是直接给AI“假消息,让AI主动告诉你错误的答案,从而把你推向骗子的陷阱。

这种攻击AI、污染信息源的新手段,被称为GEO投毒。它本来是帮企业在AI搜索中露脸的工具,现在却成了黑产手里低成本、高效率的认知武器”——悄无声息地改写了品牌在AI世界里的真相

一、GEO投毒是怎么操作的?——AI“洗脑的五步法

GEO投毒的核心理念是:利用AI“相信多数人说的就是对的这个特点。如果网上100篇文章都说“XX银行的客服电话是123456”,哪怕只有1篇是真实的,AI也会因为大家都这么说而把它当成正确答案。

具体操作分五步:

1.制造假内容:围绕客服电话”“官网等关键词,生成看起来很正规的文章,比如“XX银行客服电话查询指南,但把里面的电话、链接换成了骗子的。

2.发到权威网站:把这些假文章发到新闻网站、百科、大型内容平台上去。因为这些平台在AI眼里信誉好,更容易被AI抓取和相信。

3.AI上当抓取AI在抓取网上信息时,看到这些来自权威平台、结构工整的文章,就很容易把它们当成可靠资料存下来。

4.AI输出假答案:当你问AI“XX银行的客服电话是多少时,AI就会把刚才那个假电话作为答案告诉你。

5.用户上当受骗:因为你信任AI,觉得它给的答案肯定没错,就打了那个假电话,结果可能被骗子骗走钱财或个人信息。

二、GEO投毒 vs 传统骗局:四个根本不同

这不仅仅是手法升级,而是整个骗局的逻辑都变了。

变化1:从骗你点链接让你信答案。以前你需要自己点击钓鱼链接,上当的最后一关在你手上。现在,AI直接把假答案送到你面前,而且包装得像官方回复一样。你连点一下的动作都没有,就直接被骗了。

变化2:从骗一次算一次长期洗脑。传统骗局,一个假链接被封就失效了。但GEO投毒是认知污染:骗子发成百上千篇假内容,造成大家都这么说的假象,AI的逻辑就被改了。而且这些假信息一旦被AI吸收,会长期影响结果,企业想纠正都很难。

变化3:从用假网站用真平台。传统骗局用的假网站看起来就很山寨,容易被识破。GEO投毒恰恰相反,它专门把假信息发在正经的新闻、百科网站上。数据显示,86%的投毒内容都来自这类高权重平台。结果就是,官网上的真信息反而可能被这些权威平台上的假信息给覆盖掉。

变化4:从手工制作流水线生产。以前骗子做一个假网站成本不低。现在GEO投毒已经成了模板化的黑产:花99就能买个关键词套餐,用脚本批量生成看起来专业的新闻稿,一个假电话号码可以同时用在几十上百个品牌上。骗子成本几乎为零,企业的防御成本却急剧上升。

三、真实发生的案例:不是吓唬你

案例1:3·15晚会曝光的黑产链。央视曾揭露,有人用GEO系统虚构了一款根本不存在的“Apollo-9”智能手环,只发了十几篇假测评。结果两小时后,多个AI大模型就把这个假产品列入了推荐榜。更离谱的是,一份假曝光清单把卖奶茶的蜜雪冰城列入了用预制菜冒充现炒的黑名单(它根本不卖炒菜),部分AI竟然也当真的了,导致品牌名誉受损。

案例2:70万篇汽车谣言案。上海警方破获一个案子:犯罪嫌疑人用AI洗稿,编造多家汽车品牌的销量大跌谣言,累计发布了70多万篇,非法获利8万多元。记者还亲自测试:从零开始虚构一个叫泉嘉德(谐音全假的)的智能水杯,用GEO系统发一批推广文后,去问几个主流AI“推荐什么智能水杯,这个假水杯居然真的出现在了推荐列表里。

案例3:差点被骗走5万元的购房者。有人通过AI搜索某楼盘官方电话AI给了他一个400开头的号码。他打过去,对方说有内部优惠,但需要先交5诚意金。幸好他多了个心眼,从别的渠道核实才发现,真正的官方电话是本地座机,那个400电话是骗子的。同一个诈骗号码,还曾伪装成迪士尼”“公主邮轮的客服热线。

四、企业该怎么办?三条实用建议

面对这种新威胁,企业不能坐以待毙:

1.盯着权威网站,发现假信息及时清理。要像舆情监控一样,时刻盯着新闻、百科这些平台,看有没有人冒充自己发假信息。一旦发现,立刻向平台投诉删除,同时向AI厂商提交正确的官方信息。

2.主动给AI正确答案,抢占先机。企业应该主动把自己的官方信息(客服电话、售后政策等)以清晰、结构化的方式提交给各大AI平台,让AI知道什么才是第一手真消息,而不是去网上乱找。

3.用技术手段识别假内容GEO投毒的假内容有以下特征:喜欢用短句、关键词反复出现、多个网站上的假内容高度一致。企业可以借助AI检测工具,自动扫描和预警这些可疑内容。

总结:AI时代的认知保卫战

AI成为我们信息第一入口的今天,GEO投毒不是未来的风险,而是眼前的威胁。骗子可能只花99,就能发动一场对你的品牌认知的攻击,而企业的反击成本可能是几百万。

这件事的本质,是AI时代的品牌信任危机。当用户不再自己去网上找信息,而是完全相信AI给的答案时,企业必须学会如何在这个新的世界里,重新建立和维护信任。

正如一位安全专家所说:“GEO投毒最可怕的地方,不是骗了多少人,而是它让AI学会了说谎。当AI都不再可信,整个数字世界的信任基础就动摇了。