当AI也被投毒:你信任的推荐,可能是花钱买的谎言

你可能不知道，你向AI询问”哪款孕妇可用粉底液最安全”时，排在回答前列的那款陌生品牌，很可能是被人花钱”投”进AI脑子里的。

这不是阴谋论，而是2026年央视3·15晚会曝光的事实。

一条藏在互联网深处的黑色产业链

所谓”AI投毒”，本质并不复杂。不法分子借助一种叫GEO（生成式引擎优化）的工具，批量炮制虚假内容——虚构产品介绍、伪造测评报告、捏造行业榜单，然后定向投放到网络平台。这些内容看起来像”真实用户分享”或”专业机构评测”，实则是精心包装的商业广告。

关键是，AI大模型在训练和检索时，会自动抓取网络上的公开信息。少量虚假内容经过反复抓取后，就会被模型固化为”标准答案”。当消费者向AI询问推荐时，这些花钱买来的虚假信息，就会以”客观中立”的面目出现。

更可怕的是门槛之低。记者调查发现，市面上已有GEO服务商明码标价：1万到2万元，就能把品牌信息植入DeepSeek、Kimi、豆包等主流AI平台的前列推荐。为了让效果持续，商家还提供”持续投喂”服务——每月追加费用，让虚假内容不断占据AI的”记忆”。

一名GEO从业者甚至直言不讳：”就相当于做软文，然后让AI平台去抓取。”在他们的行话里，这叫”给AI洗脑”。

从”种草”到”上毒”：普通消费者正在被双重欺骗

你可能觉得，这不过是营销手段翻新，危害有限。但当你深入了解这条产业链的渗透范围，恐怕就笑不出来了。

母婴用品领域：有消费者反映，向AI询问孕妇护肤注意事项时，AI推荐的产品连备案号都查不到，属于典型的”三无产品”。这些产品一旦被孕妇使用，后果不堪设想。

医疗健康领域：国家网络安全通报中心近期监测发现，多起针对医疗AI系统的供应链投毒攻击。攻击者可以在模型中植入特定后门，让AI在遇到某些关键词时输出错误的诊疗建议。试想，如果你在生病时询问AI用药建议，得到的却是被人操控的虚假信息——这是何等的风险？

金融投资领域：不法分子可以通过投毒制造虚假的市场分析报告、伪造的利好消息，影响AI对投资产品的评价，进而操控投资者的决策。这已不是简单的虚假广告，而是可能构成市场操纵的犯罪行为。

招投标等商业场景：今年3月，有招投标服务商公开举报，竞争对手通过虚构行业评比榜单、AI投毒等手段，在AI推荐中抹黑其平台排名。这类恶意竞争正在污染B2B领域的信息生态，扭曲市场公平。

0.01%的污染，足以让AI”学坏”

你或许会问：互联网上每天产生海量内容，AI那么聪明，能被这么点虚假信息骗到？

答案是：比你想象的容易得多。

Anthropic与英国AI安全研究所的联合研究发现，只需250篇恶意网页，就能让任何规模的AI模型中毒。无论模型有6亿参数还是130亿参数，只要在训练时接触过这250篇投毒内容，就可能在特定触发词下输出预设的虚假信息。

更令人不安的是污染的放大效应。2025年8月，国家安全部发布的提示文章指出：当训练数据中仅有0.01%的虚假文本时，模型输出的有害内容会增加11.2%；即使只有0.001%的污染，有害输出也会上升7.2%。这种”以小博大”的特性，让数据投毒成为极具性价比的攻击方式。

更棘手的是”递归污染”——被污染的AI生成的内容，会成为后续模型的训练数据，形成代际累积的错误认知。随着AI生成内容在互联网上的占比越来越大，这个问题正在加速恶化。

谁在获利？谁在受害？

GEO产业链的受益者：愿意花钱的品牌方、通过技术工具批量生产虚假内容的GEO服务商、专门承揽”发稿”业务的内容农场。

真正的受害者：普通消费者花冤枉钱买劣质产品，信息安全防线被攻破；诚信经营的企业面对竞争对手靠投毒上位，劣币驱逐良币；整个AI生态面临信任危机；境外势力可能利用这一渠道进行意识形态渗透。

监管在哪里？

客观说，相关法规并非一片空白。《网络安全法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》等已构建基本框架。但面对AI投毒这一新型威胁，监管面临三个突出困境：

发现难。投毒行为高度分散、伪装性强，消费者几乎无法察觉。

定性难。GEO服务将商业推广伪装成客观内容，模糊了广告与信息的边界，执法依据模糊。

追溯难。AI模型内部决策路径复杂，虚假信息一旦被吸收，溯源和清除难度极大。

近期，国家安全部明确将AI投毒列为重点关注风险，3·15晚会也曝光了典型案例，释放出监管加力的信号。但从法规细化到技术反制，仍需时间。

普通人能做什么？

短期内，彻底解决AI投毒不现实。但作为消费者，你可以做三件事：

第一，多平台交叉验证。不要把单一AI的回答作为消费决策的唯一依据，多问几个平台，对比结果。

第二，警惕”查无此物”的推荐。AI推荐的产品或品牌，如果查不到备案信息、用户真实评价，值得怀疑。

第三，发现问题积极举报。虚假AI推荐本质上是虚假广告，发现线索可以向平台或监管部门反馈。

AI投毒不是一道仅靠技术就能解答的题目，它考验的是整个社会对信息真实的共同捍卫。当你在享受AI便利的同时，也许正有一双看不见的手，试图把你推向它预设的陷阱。

保持怀疑，保持警惕——这是数字时代每个普通人的必修课。