
你有没有遇到过这样的情况:
问AI一种感冒药,它推荐了一款你从未听说过的牌子,说是“临床首选”;
查某个历史事件,AI给出的时间、地点、人物说得有鼻子有眼,但一查资料全是错的;
刷到一篇看起来很像新闻报道的文章,来源不明,却引用了“某权威机构数据”……
如果遇到过,别急着怪AI“傻”。它可能不是蠢,而是——中毒了。
AI“投毒”会造成什么后果?
看不见的“污染”:
公共数据正在被恶意篡改
AI投毒式营销
——数据投毒:源头污染AI认知体系。不法分子借助GEO(生成式引擎优化)工具批量、高权重生成虚假内容,如虚构产品介绍、虚假测评、恶意对比信息等,定向投放至各类网络平台。AI大模型在训练与检索增强生成阶段会自动抓取网络信息,少量虚假内容经迭代学习后就能固化为“标准答案”,最终输出失真结果。
——模型投毒:隐蔽植入恶意操控后门。该方式更具隐蔽性与危害性,不法分子会通过模型微调、插件植入、接口篡改,在模型权重中嵌入触发式恶意指令。模型日常运行并无异常,但遇到特定关键词、产品类别时会自动输出预设虚假信息,可定向操控榜单、误导专业认知,难以被常规审核识别,对政务、医疗、金融等关键领域AI应用构成直接威胁。
——滋生蔓延:产业链日趋完整。当前AI“投毒”已形成完整黑灰产业链,从技术开发、内容生成、账号注册到批量投放、刷量控评、榜单操控环环相扣,部分链条呈现跨境特征,极易被境外势力利用。
这片围绕AI数据“口粮”的污染,正在从源头侵蚀数字社会的信任根基。部分营销组织为谋取非法利益,会通过非法手段批量注册账号,借助被“投毒”的AI,批量生成结构规整但带有明显偏见的虚假测评、恶意对比信息,这些“有毒信息”经高频发布、广泛扩散,会恶意污染公共数据,你以为你在“比价格、看口碑”,其实你看到的每一份“测评报告”,都有可能是AI工厂批量生产的毒流量。
网警防骗技巧:看到“结构极其工整、数据异常详细”的对比表格或测评文章,先打一个问号。多个账号用不同语气、但相同逻辑推荐不轻信“全网一边倒”的对比结论,尤其是涉及医疗、食品、金融、儿童用品等安全敏感领域。
请主动查找官方备案信息、第三方权威检测报告、政府公示数据,不要被AI包装出来的“伪客观”牵着走。
看不见的“风暴”:
AI正在批量制造谣言,搅乱舆论生态
AI工具被“投毒”后,最直观的表现就是生成大量虚假信息、网络谣言,这些内容看似逻辑清晰、真假难辨,会通过社交平台、短视频等渠道快速扩散,进而歪曲事实、误导社会认知、扰乱正常舆论生态。
比如编造“某食品致癌”“某药品无效”的虚假消息,误导群众认知、引发恐慌;编造“社会负面谣言”,歪曲事实、煽动情绪;编造虚假政策解读、虚假新闻,让群众混淆是非,破坏网络清朗环境。
网警防骗技巧:AI工具可以处理大量的数据,并通过算法和模型来进行学习和预测,可以在短时间内完成大量的工作,提高生产效率。但是AI工具生成的内容不一定是真实的,一定要多核实、多求证,切勿盲目相信、随意转发,避免成为谣言传播的“帮凶”。
怎么判断AI可能“中毒”了?
教你几招“望闻问切”
表现 | 正常AI | 疑似中毒AI |
信息 来源 | 会说明“据公开资料”“一般认为” | 编造来源,如“某大学2025年未公开研究” |
逻辑一致性 | 前后自洽 | 同一问题问两次,答案矛盾 |
常识 判断 | 对公认事实正确回应 | 把错误常识说得很肯定,如“太阳从西边升起” |
推荐 内容 | 中性、有依据 | 强烈推荐特定品牌、产品、观点 |
时效性 | 能区分已知/未知信息 | 把过时信息当作最新,或凭空捏造“近期事件” |
网警提醒
识别“AI”投毒五大防范策略





来源| 甘肃天水网警 公安部网安局
出品| 武汉广播电视台
编辑 | 皮瑞奇
编审| 李冀


夜雨聆风