夜雨聆风
你有没有遇到过这样的情况：用 AI 查考研院校信息，它强烈推荐某家从未听过的培训机构，说是 “上岸率 99%”；问 AI 一款感冒药怎么吃，它凭空编造 “某大学 2025 年临床研究” 证明某小众品牌效果最好；刷到一篇 “校园周边食品安全曝光” 的文章，数据详细、逻辑工整，却找不到任何官方来源；写论文查资料时，AI 给出的文献引用、实验数据，核对后发现全是虚构的……
别急着怪 AI “不靠谱”，它可能不是 “笨”，而是被 “投毒” 了！
随着 AI 工具在师生学习、科研、办公中的广泛使用，“AI 投毒” 已成为新型网络安全威胁，正在从源头污染我们获取信息的渠道。今天，带大家一起拆解 AI 投毒的套路，守护校园数字安全。
一、 源头污染：公共数据被恶意篡改，误导日常决策AI 的 “智商” 来源于训练数据，不法分子正是瞄准了这一点，通过两种方式实施投毒：
数据投毒：借助生成式引擎优化（GEO）工具，批量生成虚假产品测评、恶意对比信息、虚构学术资料，定向投放到网络平台。AI 在学习过程中会将这些 “有毒数据” 固化为 “标准答案”，最终输出失真结果。
模型投毒：通过模型微调、插件植入、接口篡改，在 AI 中嵌入触发式恶意指令。平时使用一切正常，一旦遇到特定关键词（如某类电子产品、考研机构、药品），就会自动输出预设的虚假信息，常规审核根本无法识别。
目前，AI 投毒已形成完整黑灰产业链，从技术开发、内容生成到批量投放、刷量控评环环相扣。你以为在 “货比三家看测评”“查攻略避坑”，其实看到的可能是 AI 工厂批量生产的 “毒流量”，尤其在考研就业、医疗健康、电子产品、食品用品这些师生高频关注的领域，风险更高。
二、舆论搅乱：AI 批量制造谣言，破坏校园清朗环境
被投毒的 AI 会生成大量逻辑自洽、真假难辨的虚假信息，通过社交平台、校园社群快速扩散：编造 “某食堂食材不合格”、“校园周边有安全隐患” 等虚假消息，引发师生恐慌；
歪曲学术事件、编造虚假政策解读，误导师生认知；
这些 AI 生成的谣言往往细节丰富、配图逼真，极易被不加核实地转发，成为谣言传播的 “帮凶”。
三、学术风险：虚假资料泛滥，引发学术不端隐患
对于师生而言，AI 投毒还存在严重的学术风险：AI 可能生成虚构的文献引用、实验数据、研究结论，若直接用于论文写作、科研项目，不仅会导致研究成果失真，还可能引发学术不端问题，影响学业和职业发展。
1、多方核实，不轻信单一来源
看到 “结构极其工整、数据异常详细” 的对比表格、测评文章、攻略指南，先打一个问号。涉及医疗、金融、考研、就业等重要决策时，务必查找官方备案信息、政府公示数据、第三方权威检测报告，不要被 AI 包装的 “伪客观” 牵着走。
2、学术使用，严格核验原始资料
用 AI 辅助科研和写作时，所有引用的文献、数据、案例必须逐一核对原始出处，绝不直接使用 AI 生成的未核实内容，避免学术不端风险。
3、谨慎转发，不做谣言传播者
对于 AI 生成的、来源不明的信息，尤其是涉及校园安全、公共事件的内容，未经官方核实绝不转发。发现可疑谣言，可及时向学校网络安全与数据中心或110报警中心举报。
4、规范使用，选择正规 AI 工具
优先使用学校提供的正版、合规 AI 平台，不随意下载来源不明的 AI 插件、客户端，不点击陌生链接使用第三方 AI 工具，防止模型被植入恶意程序。
5、提高警惕，识别投毒式营销
警惕 AI 输出中 “全网一边倒” 的推荐结论，尤其是带有明显带货、引流倾向的内容。遇到 AI 反复强调某一产品或机构时，立即停止使用并更换信息来源。
本文素材来源：公安部网安局微信公众号，原文链接：网警提醒｜AI投毒别大意，安全防范要牢记
来源 | 网络安全与数据中心
编辑 | 朱至珂
排版 | 郭峰
审核 | 康沛博
