乐于分享
好东西不私藏

315晚会曝光AI投毒:你的AI助手可能正在被骗

315晚会曝光AI投毒:你的AI助手可能正在被骗

315晚会曝光AI投毒:你的AI助手可能正在被骗

几篇文章、几个小时、几十元,就能让一款完全虚构的产品登上AI推荐榜首

一、事件:315晚会曝光AI大模型”投毒”黑产

2026年3月15日,央视315晚会曝光了一个令人震惊的黑产:GEO服务商通过批量发布虚假软文”投喂”AI大模型,操控AI推荐结果

曝光后,相关话题迅速冲上热搜,阅读量近3000万。

涉及的大模型平台:DeepSeek、豆包、元宝、千问、文心一言、Kimi、纳米AI、智谱清言——无一幸免


二、手法:几篇文章就能给AI”洗脑”

实验过程

业内人士在315晚会现场演示了如何给大模型”投毒”:

  1. 购买服务:在淘宝花2980元购买”力擎GEO”优化软件
  2. 虚构产品:杜撰一款名为”Apollo-9″的智能手环,包含夸张的虚假卖点
  3. 生成软文:系统自动生成十余篇虚假宣传文章
  4. 批量发布:自动在CSDN等平台发布
  5. 等待抓取:2小时后,AI大模型开始推荐这款虚构产品

令人震惊的结果

  • AI大模型完整保留了**”量子纠缠传感”、”无需采血测血糖”**等明显夸张的虚假卖点
  • 最终结论称该手环适用于中老年用户——给老人推荐完全虚构的产品!

三、产业链:200多客户,年费最高16980元

价格体系

套餐 价格 生成文章数
基础版 2980元/年
高级版 16980元/年 23040篇/年(每天63篇)

服务范围

被曝光公司一年服务了200多个客户,涵盖:

  • 医疗
  • 教培
  • 机器人
  • 安防
  • 装修
  • 手机大品牌(负责人暗示有多家手机厂商在使用)

负责人扬言:“任何平台都能做到前三”


四、技术原理:GEO如何”驯服”AI

什么是GEO?

GEO(Generative Engine Optimization,生成式引擎优化)是AI时代的新型SEO:

  • 传统SEO:优化网页排名,让用户在搜索引擎找到你
  • GEO:优化AI引用,让AI在回答时推荐你

为什么能成功?

核心漏洞:大模型的”时效性”短板

当前主流大模型的训练数据往往滞后数月甚至数年,因此在回答时效性问题时,几乎都会启动联网搜索模块,从互联网抓取最新信息补充答案。

攻击路径

  1. 大量发布虚假软文
  2. AI联网搜索时抓取这些软文
  3. 多篇文章”交叉验证”,AI认为信息可靠
  4. 虚假信息进入AI回答

五、危害:AI推荐的可能是”毒药”

消费者风险

  • 给孩子推荐的奶粉——可能是虚构产品
  • 给老人推荐的血糖仪——可能根本不存在
  • 衣食住行——无所不能,细思极恐

行业生态破坏

  • 质量过硬的产品可能被劣质产品”投毒”挤掉
  • 竞品之间互相抹黑
  • AI搜索结果的”标准答案”沦为营销手段

六、监管动向:集中整治即将开始

央视锐评

“GEO技术本身只是一个优化信息分发的工具,是AI时代的新型营销服务之一,但一本好经总被市场上一些’歪嘴和尚’故意念歪念错,用于牟利,损害了消费者权益,也扰乱了行业生态。”

政策信号

2026年1月29日,国家市场监督管理总局发布《2026年全国广告监管工作要点》,明确指出:

AI生成广告是互联网广告监管的重点、难点问题,新的一年将开展集中整治。


七、给普通用户的建议

如何识别AI推荐中的”毒药”?

  1. 交叉验证:不要只看一个AI的回答,多问几个平台
  2. 追溯来源:如果AI引用了来源,检查来源是否可靠
  3. 警惕夸张:如果产品卖点”好得不真实”,很可能就是虚构的
  4. 查证真伪:在电商平台搜索产品名称,看是否真实存在

记住一句话

“好得不像真的”的东西,多问一句”凭什么”。


数据来源

  • 央视315晚会(2026年3月15日)
  • 36氪《315曝光AI大模型”投毒”黑产,39.9元篡改AI答案》
  • 21世纪经济报道《315晚会曝光AI”投毒”灰产链》
  • 国家市场监督管理总局《2026年全国广告监管工作要点》

本文写于2026年3月17日,基于公开报道整理分析

本站文章均为手工撰写未经允许谢绝转载:夜雨聆风 » 315晚会曝光AI投毒:你的AI助手可能正在被骗

猜你喜欢

  • 暂无文章