网警提醒|AI投毒别大意,安全防范要牢记

你有没有遇到过这样的情况：

如果遇到过，别急着怪AI“傻”。它可能不是蠢，而是——中毒了。

看不见的“污染”：

公共数据正在被恶意篡改

AI投毒式营销

——数据投毒：源头污染AI认知体系。不法分子借助GEO（生成式引擎优化）工具批量、高权重生成虚假内容，如虚构产品介绍、虚假测评、恶意对比信息等，定向投放至各类网络平台。AI大模型在训练与检索增强生成阶段会自动抓取网络信息，少量虚假内容经迭代学习后就能固化为“标准答案”，最终输出失真结果。

——模型投毒：隐蔽植入恶意操控后门。该方式更具隐蔽性与危害性，不法分子会通过模型微调、插件植入、接口篡改，在模型权重中嵌入触发式恶意指令。模型日常运行并无异常，但遇到特定关键词、产品类别时会自动输出预设虚假信息，可定向操控榜单、误导专业认知，难以被常规审核识别，对政务、医疗、金融等关键领域AI应用构成直接威胁。

——滋生蔓延：产业链日趋完整。当前AI“投毒”已形成完整黑灰产业链，从技术开发、内容生成、账号注册到批量投放、刷量控评、榜单操控环环相扣，部分链条呈现跨境特征，极易被境外势力利用。

这片围绕AI数据“口粮”的污染，正在从源头侵蚀数字社会的信任根基。部分营销组织为谋取非法利益，会通过非法手段批量注册账号，借助被“投毒”的AI，批量生成结构规整但带有明显偏见的虚假测评、恶意对比信息，这些“有毒信息”经高频发布、广泛扩散，会恶意污染公共数据，你以为你在“比价格、看口碑”，其实你看到的每一份“测评报告”，都有可能是AI工厂批量生产的毒流量。

网警防骗技巧：看到“结构极其工整、数据异常详细”的对比表格或测评文章，先打一个问号。多个账号用不同语气、但相同逻辑推荐不轻信“全网一边倒”的对比结论，尤其是涉及医疗、食品、金融、儿童用品等安全敏感领域。

请主动查找官方备案信息、第三方权威检测报告、政府公示数据，不要被AI包装出来的“伪客观”牵着走。

看不见的“风暴”：

AI正在批量制造谣言，搅乱舆论生态

AI工具被“投毒”后，最直观的表现就是生成大量虚假信息、网络谣言，这些内容看似逻辑清晰、真假难辨，会通过社交平台、短视频等渠道快速扩散，进而歪曲事实、误导社会认知、扰乱正常舆论生态。

比如编造“某食品致癌”“某药品无效”的虚假消息，误导群众认知、引发恐慌；编造“社会负面谣言”，歪曲事实、煽动情绪；编造虚假政策解读、虚假新闻，让群众混淆是非，破坏网络清朗环境。

怎么判断AI可能“中毒”了？

教你几招“望闻问切”

网警提醒

识别“AI”投毒五大防范策略

来源| 甘肃天水网警 公安部网安局

出品| 武汉广播电视台

编辑 | 皮瑞奇

编审| 李冀