夜雨聆风6月9日，广西外国语学院。覃卓做了一场题为《真实与虚构之间：AI时代媒体传播的伦理挑战与治理》的分享——不讲科幻，讲的是已经发生、正在加速、而且绝大多数人还没做好准备的行业地震。
开场就拆信仰："屏幕里的东西，都不一定是真的"
讲座用两起被广泛报道的真实事件破题：
香港Arup跨国工程公司AI换脸视频会议诈骗案——分公司财务收到"总部CFO召集"的多人视频会议，每张脸、每句口音都对得上，会后按指令分15笔转出共计约2亿港元，一周后才发现参会的"高管"全员是Deepfake数字分身。
山东德州"190元榴莲仅退款"案（2026.4）——买家收到冷冻榴莲后，用伪造的霉变图申请仅退款，平台算法秒批通过；商家两次驱车1600公里跨省翻垃圾桶取证，警方最终对买家处以行政拘留7日，追缴违法所得——被称为恶意"仅退款"滥用进入治安处罚的标志性案例。
一个靠AI换脸骗过人命关天的转账确认，一个靠AI改图骗过平台自动审核逻辑。共同本质：AI让"伪造"从手艺变成了流水线，"眼见为实"的底层信任正在被系统性瓦解。
三组数字，说清媒体生态已经变了
数据 | 含义 |
2.3亿 | 中国生成式AI用户规模（网信办2025年披露），490+款大模型完成备案 |
日均4000–7000篇 | 单MCN机构被查时的AI假新闻产量——工业化造谣已成商业模式 |
"记者只负责提问" | 意大利《福利奥日报》2025年3月推出全球首份AI生成报纸，不是概念，是现实 |
但数字只是表象。讲座的核心是三个结构性反转：
生产主体扩展——从「人→人→人」到「人→AI→人」，算法生成系统成了独立的内容生产单元，没人署名、没人担责。
传播逻辑倒转——过去是"事件发生了→去报道它"，现在是"AI内容先出来了→它制造了看似的事件→媒体跟进→公众反应→倒逼现实"。
分发逻辑强化——从"用户找信息"变成"信息按人设定做"，同一新闻，不同人看到的版本不同，平台算法事实上掌握了"什么是真"的定义权。
最值得传媒人警醒的三个伦理黑洞
① 真假边界消失：从文字→图片→音频→实时换脸的升级链
2025年黑产报价已压到500元/小时即可租用到实时视频换脸服务。包小柏用AI"复活"去世女儿的700+天训练案例，进一步把伦理问题推到新维度：谁有权让逝者"说话"？
② 算法黑箱：平台是不是事实上的"谣言放大器"？
当AI谣言天然携带"更刺激、更有争议"的特征，算法推荐恰恰偏好这类内容——平台说"我只是分发渠道"，但分发本身就是权力，放大的后果谁来扛？
③ 责任真空：AI幻觉→截图传播→股价异动的荒诞链条
讲座拆解了2025年初真实发生的"AI问答截图操纵股价"事件：黑产在股吧散布假消息→大模型把它吃进语料→用户问AI时得到"信誓旦旦的错误答案"→截图当真相传播→5家公司盘中异动被迫发澄清。模型方说"幻觉是技术问题"，平台说"我只是搬运"——三层踢皮球，受损的是市场公信。
治理：不是某一个办法能解决的
讲座给出的是四层协同框架：
技术层：显式标识（用户肉眼可见"AI生成"水印）+ 隐式标识（文件元数据溯源），中国2025年9月施行的《人工智能生成合成内容标识办法》已强制落地；
平台层：审核/分发/风险提示责任——Meta、抖音、快手已上线AI内容识别链路，但"未标识疑似AI内容默认风险提示"仍是缺口；
法律层：全球监管加速——欧盟AI法案将deepfake列为高风险并要求强制披露，韩国选举前90天AI政治内容禁令，西班牙率先全面执行；
社会层：媒介素养是最后一道防线——情绪免疫（看到"震惊""速看"先停15秒）、信源三角验证、工具反查。
覃卓的结论很冷但很准："四层治理，缺哪一层都不行。但当前最薄的一环，是社会层——普通人的辨识能力远跟不上生成能力的进化。治理的胜负，最终在'人'这一层。"
给在场新闻传播学生的三句话
把AI学透，但不依赖它。
每一条AI输出追问三个问题：它从哪来？可信吗？有没有幻觉？
核验能力练成肌肉记忆。
事实核查不是新闻专业的"小分支"，是这个时代所有内容生产者的底层能力。
价值判断和温度，是你的护城河。
AI能写结构完美的稿子，但写不出有立场、有温度、能站住时间的表达——这部分是人的事。
附：
给法律圈同行的关键提醒——你们的AI，用对了吗？
讲座后半段聊到法律AI应用，其实指向一个更普遍的行业痛点：律师、法务、政府部门、法学院校正在把大模型塞进 workflow，但绝大多数人忽略了一个致命问题：
通用大模型在法律场景下会"一本正经地编法条、编案例、引用废止文件"。这不是小bug，是职业风险。
这也是为什么覃卓团队在实际项目中（司法部"一网四库"、北京国际商事法庭知识库、广西高院中国—东盟信息中心等）始终坚持：AI能力必须接权威法律数据源，不能"盲飞"。
如果贵机构正在做「大模型+法律」方向的落地
北大法宝可上门对接
北大法宝MCP服务——将北大法宝40年积累的权威法律数据库（500万+法律法规、1.6亿+司法案例等）封装成即插即用的工具接口，不做封闭产品、不绑死平台，而是当"法律外脑"接入你们已有的AI环境：
适配对象：企业法务部、律所知识管理/诉讼支持团队、法学院校智能法学实验室、政府部门/司法机关信息化项目、法律科技企业研发团队。
接入方式：北大法宝工程师可上门服务，帮您完成大模型（Dify / Claude / Cursor / 扣子空间 / WorkBuddy / 自研Agent 等）与法宝MCP的对接配置，5分钟跑通一条"自然语言→权威法条+案例+官方溯源链接"的闭环。
同步可提供：法律AI使用规范培训——涵盖AI幻觉防范、法条鉴真流程、引用合规标准、涉密数据隔离等实务模块。
扫码即联
扫码关注 了解更多
联系电话：0771-5316519 / 0771-5608966
邮 箱：xiaohs5316@163.com
公司地址：中国(广西)自由贸易试验区南宁片区金龙路27号B2栋二层209号房
