晚自习结束,宿舍灯灭了。四个人各自亮起手机屏幕,打开同一个AI助手。
第一个人把当天的高数笔记拍了照传给AI,让它整理成结构化知识卡——定义、公式、例题、易错点。然后在卡片末尾加了一行追问:"这个知识点和上一章的极限有什么联系?"AI给出了三种关联路径。他把卡片存进自己的知识库,这个学期已经攒了87张。
第二个人正在写课程论文,把初稿发给AI说:"你是论文指导老师,请指出逻辑漏洞和论据不足的地方,给出修改建议,不要重写。"AI返回了12条标注,从论点支撑到文献引用格式都提到了。她按标注逐条修改,查重率从23%降到4.7%。
第三个人在填助学金申请表,嫌手打身份证号太麻烦,直接拍了家里身份证照片发给AI让它帮忙识别填写。AI照做了。三天后,全家人的身份信息出现在一个公开的数据集里。他至始至终不知道,那段对话被用于了模型训练。
第四个人让AI从头到尾写完了思政课作业。格式工整、逻辑通顺、引用规范。但老师在批改时写下评语:"这不是你的思维方式。"平时分扣了20分,总评险些挂科。
同样的AI工具,同样的使用场景,四个人走向了完全不同的结果。差别不在工具本身,而在使用工具的方式——而使用方式背后,是安全素养、提问能力和验证习惯的差异。
这个差异有多普遍?
截至2025年12月,中国生成式AI用户已超过6亿,19周岁以下用户占比最高,达26.4%。1.59亿未成年人正在使用AI工具,但大多数人从未接受过系统的AI安全素养教育。
8月18日,OpenAI推出面向13至17岁用户的ChatGPT for Teens,对自残、色情、不适宜角色扮演等内容设置更严格限制,家长可设安静时段和学习时间。同一天,OpenAI因下一代模型Astra在测试中表现出"无法排除"的网络安全风险,暂停了其部分训练活动。
产品层面的安全在收紧。但就在同期,菲律宾一名14岁学生仅通过与聊天机器人的一段对话——其中包含家庭成员的私人信息——就引发了全家隐私泄露事件。他不知道对话不是私密的,不知道AI工具会保留用户数据用于训练,不知道提示注入攻击的存在。
真正的安全防线不在产品端,在使用者端。
安全使用的三个层次
第一层:信息边界——什么不能给AI
建立信息边界的核心是"输入前自问"原则:这段信息如果出现在公共场合的广告牌上,能不能接受?如果不能,就不要输入AI。
绝对不能输入的信息包括五类:身份证号及证件照片、家庭详细住址、银行账户及密码、医疗记录和诊断报告、他人的隐私信息(包括同学的成绩、老师的联系方式等)。
需要特别注意的是:对话记录可能被用于模型训练,对话历史功能可能被他人查看,截图分享可能造成二次传播。输入即交出控制权——这是使用AI前必须建立的基本认知。
常见误区:认为"免费AI工具更安全"或"大公司的AI不会泄露数据"。实际上,数据安全取决于工具的隐私政策和使用者的操作习惯,与工具是否免费或公司大小无直接关系。使用任何AI工具前,都应查看其隐私政策中关于数据保留和训练用途的条款。
第二层:提问能力——怎么问才能得到好结果
提问方式决定了AI输出的质量和使用者的学习深度。两种提问方式的差异是根本性的:
模糊提问:"帮我写个作文"——AI替代了思考过程,学生拿到成品但什么都没学到。
结构化提问:"你是一位有十年经验的高中语文老师,请根据以下提纲给出写作建议和改进方向,不要直接写全文,用要点列表呈现,每个要点附一个具体例子"——AI辅助了思考过程,学生保留了核心的思维环节。
结构化提问包含三个要素:角色设定(让AI以特定身份和专业视角回答)、范围限定(明确要什么和不要什么)、输出格式(要求特定结构便于后续使用和验证)。
常见误区:认为"提问越长越好"。实际上,提问的关键不是长度而是结构。一个50字但包含角色、范围、格式三要素的提问,效果远好于一个500字但缺乏结构的描述。
第三层:验证习惯——怎么确认AI给的是对的
AI的幻觉问题在2026年并未完全解决。任何事实性信息——人名、日期、数据、引用来源——都可能被AI编造或扭曲。
验证流程不需要复杂,但需要成为习惯:
第一步:AI给出的每个事实性信息,花30秒用搜索引擎查原始来源。重点确认:信息是否来自权威渠道、时间是否匹配、数据是否被断章取义。
第二步:用教材或课堂笔记核对AI给出的概念和数据是否准确。教材是经过审核的基准,AI不是。
第三步:用逻辑自洽性检验。AI给出的论述前后是否一致?有没有自相矛盾的地方?有没有逻辑跳跃?
第四步:发现AI输出有误时,在笔记中标注纠错记录。这不仅是验证习惯的一部分,更是学习过程——错误是学习的最佳素材。
常见误区:认为"AI输出看起来很自信,所以应该是对的"。AI的表达风格不反映信息的准确性。一段写得流畅、逻辑通顺、引用规范的内容,可能每一处事实都是编造的。验证不看文风,看来源。
7天渐进式行动计划
第1天:建立安全边界。列一份"绝对不能输入AI"的五类信息清单,贴在屏幕边。打开最常用的AI工具,检查最近30天对话记录,删除包含敏感信息的内容。
第2天:改造一个提问。选一个今天要用AI的场景,把模糊提问改成结构化提问——加上角色设定、范围限定和输出格式要求。对比两种提问的输出差异。
第3天:验证一次输出。选AI给出的一段事实性内容,花30秒用搜索引擎查原始来源。标注验证结果:准确/有误/无法确认。
第4天:建立一个知识卡。用AI整理一个知识点的结构化笔记,然后手动修改和完善——加入自己的理解、课堂补充和易错标注。AI生成初稿,你来终审。
第5天:分享一个安全技巧。把这几天学到的AI安全使用方法分享给一位同学或家人。教是最好的学。
第6天:回顾一周对话。翻看本周所有AI对话记录,统计:有多少次提问是结构化的?有多少次验证了输出?有多少次可能泄露了敏感信息?
第7天:制定下周计划。基于第6天的回顾,选择一个最需要改进的方向,设定下周的具体目标。
AI是放大器。安全素养高的学生用它放大学习效果,安全素养低的学生用它放大风险。工具不会选择使用者,但使用者可以选择怎么用工具。
知绩·AI教育实战圈知识星球里有常用提示词和技能工具包的系统性内容,都是经过验证、能直接用的干货,感兴趣可以去看看。
夜雨聆风