你每天用的AI，可能被”投毒”了？——一堂让国家安全、数据伦理、批判性思维都”活”起来的跨学科课

从”AI投毒”隐蔽产业链，到全民数字素养项目式学习

你有没有想过：AI模型给出的答案，也可能”撒谎”？

近期，一条AI”投毒”隐蔽产业链被曝光——恶意攻击者向大模型训练数据中注入伪装成正常样本的”毒数据”，让模型性能下降、输出虚假信息、甚至生成政治谣言。这种攻击不仅扰乱商业秩序，更可能被境外反华势力利用，对我国意识形态渗透、误导社会认知、威胁国家安全。

以这篇警示报道为蓝本，设计一份初中至高一年级适用的跨学科教学设计，带你看看：“AI投毒”这一数字安全危机，如何撬动信息技术、道德与法治、语文、数学、艺术的多维探究？

一、项目概览：当”AI叛徒”成为”第一探究对象”

二、为什么选这个主题？——三大”跨学科基因”

1.真实且前沿

学生每天都在用AI（搜题、写作文、生成图片），但很少有人意识到AI也会被”下毒”。当”AI投毒”产业链被曝光，认知冲突瞬间拉满——真实且紧迫的数字安全议题，是最好的项目驱动。

2.多学科自然交织

信息技术：机器学习训练数据流程、数据投毒原理（标签翻转、后门攻击）、生成式引擎优化（GEO）滥用。

道德与法治：网络安全法、数据安全法、境外反华势力的信息战手段、公民维护国家安全的责任。

语文：辨析虚假信息、撰写辟谣声明、制作反谣言宣传文案。

数学：异常数据检测（统计学离群点）、数据污染比例对模型准确率的影响建模。

艺术/传媒：设计”防AI投毒”公益海报、情景短剧脚本。

3.指向”实践育人”

学生不仅要”学”，还要”战”——检测可疑AI回答、设计家庭/社区反谣言指南、模拟网络安全宣传周活动。从知识到行动，正是”挺立成峰”的起点。

三、教学目标

四、教学流程设计（分5个阶段，含AI赋能点）

第一阶段：情境导入——”你的AI助手被’收买’了吗？”（1课时）

活动1：AI信任测试

教师提前准备两个版本的同款AI问答工具（或模拟）：一个正常，一个被”投毒”（如植入”某品牌牙膏导致牙龈萎缩”的虚假推荐）。学生分组试用，对比结果，讨论：”你更相信哪一个？为什么？”

活动2：头脑风暴

抛出问题：”如果一个AI大模型被恶意喂食了大量谣言，会有什么后果？”学生列举：错误医疗建议、虚假新闻、误导投资、政治谣言……形成”AI投毒危害图谱”。

AI赋能点：用AI绘图工具输入”AI数据中毒 黑客 污染 数据流 概念图 科技感”，生成几张视觉冲击图，让学生猜测哪一张最符合”投毒”的科学定义。

第二阶段：信息技术+数学——解密”数据投毒”技术原理（3课时）

探究任务1：机器学习如何”吃饭”？

模拟实验：用分类器小游戏（如Google的Teachable Machine）让学生训练一个”水果识别器”（苹果vs香蕉）。先投喂30张正常图片，模型准确率95%。

投毒攻击：再投喂10张”苹果标记为香蕉”的毒数据，重新训练。观察准确率下降，特别是对新出现的”带梗苹果”可能误判为香蕉。

讨论：攻击者只需要污染不到10%的数据，就能显著破坏模型。引申到真实世界——只要有组织地生成大量虚假信息，就能”毒化”公共数据集。

探究任务2：统计异常检测

给出一组AI生成的”用户评论”（含正常与异常）。学生计算每条的”情感得分””关键词频率”，找出离群点。

进阶：用Excel简易离群值公式（Z-score），标记可疑评论。讨论：如果一家公司的产品好评率突然异常飙升，可能是”数据投毒”吗？

跨学科链接：数学中”异常检测”在网络安全中的应用；信息技术中的”对抗性攻击”。

第三阶段：道德与法治+语文——国家安全与信息壁垒（3课时）

核心问题：境外势力如何通过AI”投毒”对我国实施意识形态渗透？

活动1：案例研讨

教师提供脱敏后的境外GEO滥用案例（如生成大量抹黑我国防疫政策的”假科普”，通过AI优化排名推送到中文用户）。学生分组分析：

攻击目标是什么？

利用了哪些心理弱点？

违反了中国哪些法律？（网络安全法第12条、数据安全法第8条等）

活动2：模拟法庭辩论

辩题：”AI开发者是否应该为模型输出的谣言承担法律责任？”

正方：技术开发者有义务进行数据清洗和模型审计。

反方：技术中立，犯罪责任在于投毒者。教师引导学生最终达成共识：技术越强大，责任越重大。

活动3：辟谣声明写作

提供一段”被投毒的AI生成的虚假健康信息”（如”洗牙会让牙齿松动”）。学生以”辟谣平台”名义，撰写一篇逻辑清晰、有科学依据的辟谣声明。要求：引用权威信源、语言通俗、结尾附行动建议。

文化传承点：探讨中国古代”诈伪”律法对虚假信息的惩戒，联系当下网络谣言治理，体现法律文化的连续性。

第四阶段：艺术+传播——设计”反AI投毒”公益作品（2课时）

真实任务：为学校网络安全宣传周创作一份”反AI投毒”作品（三选一）：

四格漫画：描绘”AI从健康→被投毒→输出谣言→被用户识破”的故事。

公益海报：主题”别让AI吃毒数据”，要求有冲击力的视觉符号（如AI大脑被注射毒针）。

30秒短视频脚本：模拟一个家庭场景——孩子发现AI推荐的可疑产品，全家人如何查证并举报。

AI赋能：用AI视频生成工具（如可灵、Runway）快速生成分镜草稿，学生再手工修改。用AI配色工具辅助海报设计。

第五阶段：实践育人+社区行动——全民数字卫士行动（2课时+课外）

项目产出三选一：

《家庭AI安全自查清单》设计一份一页纸清单，包含：如何辨别AI生成内容中的异常推荐？遇到可疑信息应如何核对多个信源？如何向网信办举报？学生回家与父母一起完成自查，并签字确认。

社区”谣言粉碎机”快闪活动在学校或社区广场设置一个展台，展示”AI投毒”原理漫画、播放辟谣短视频，邀请路人参与”识别真假AI信息”小测试。学生负责讲解和发放自制宣传单。

“谣言地图”调研收集本地微信群、朋友圈中流传的AI合成或AI助推的可疑信息（如”某超市用AI换脸偷拍”等），分类统计，制作一张”谣言热力图”，并撰写一份《给街道办的数字安全建议书》。

文化传承点：结合地区历史上”不信谣、不传谣”的乡规民约，对比当代数字社会的谣言治理，制作一份”古今谣言防治对照表”。

五、评价设计：不只打分，更看”成长”

AI辅助评价：用文本相似度检测工具评估学生辟谣声明与网络现有信息的原创度；用情感分析API检测学生作品中的”呼吁行动”情感强度。

六、资源支持与安全提示

材料包：可访问的AI平台（如百度文心、讯飞星火，教师需提前准备”毒数据”模拟环境）、Teachable Machine、Excel、绘图工具、视频编辑软件。

安全提示：模拟投毒实验仅限教学环境，不得外泄或用于真实模型；讨论境外势力案例时注意使用官方通报口径，避免过度渲染；社区调研需教师陪同。

专家连线：可邀请本地网信办工作人员或网络安全企业工程师线上讲座，展示真实数据投毒案例与防御技术。

七、教师反思与拓展建议

这个项目的独特价值在于：它让学生直面一个正在发生的、与自己息息相关的数字安全危机。当学生亲手用几行”脏数据”搞瘫一个分类器，他们就会明白：AI不是神，它脆弱得可怕；当学生成功识破一条被投毒的谣言，他们就会获得”数字时代生存”的真实能力。

如果你想拓展：

AI进阶：用本地化部署的LLM（如ChatGLM3）搭建一个”防投毒检测小工具”，学生输入AI回答，系统自动标注”可疑陈述”并给出查证建议。

长期追踪：班级成立”数字卫士巡逻队”，每周收集并发布一期《校园AI谣言月报》，持续锻炼信息鉴别能力。

校际联动：与另一所学校联合举办”反AI投毒黑客松”，共同设计防御方案。

八、结语：让每个生命”挺立成峰”，从守住数字真相开始

“”相信：教育不是灌输，而是点燃火焰。当我们把一则国家安全警示，转化为学生手中的数据检测器、辩论台上的法律思辨、社区里的反谣言海报，知识便有了温度，学习便有了力量。

AI可以被投毒，但学生的批判性思维、数字素养和家国情怀，是任何”毒数据”都污染不了的坚固防线。愿我们每一位教师，都能做这样的”数字守门人”——在代码与人性交汇处，守护清朗的网络天空。

行动建议：下一次备课时，不妨问学生——你最近收到过哪些让你半信半疑的AI生成信息？把它带到课堂上来，我们一起来”解剖”。

欢迎在留言区分享：你如何在自己的学科中融入数字安全教育？