ARTICLE · 1041845
中文互联网AI与虚假信息治理:云里雾里,真真假假
2025年以来，中文互联网内容安全的一个核心变化，是从“人工审核删帖”走向“AI标识+模型查证+全链路溯源”。一方面，生成式人工智能让文本、图片、音频、视频、虚拟场景的生产成本大幅下降；另一方面，虚假信息也开始出现“AI洗稿、AI配图、AI拟声、AI数字人”等新型形态。对平台、监管部门、企业和普通读者来说，问题不再是“网上有多少假信息”，而是“如何用可验证的指标判断治理有没有效果”。
本文基于2025—2026年国内政策法规、平台治理报告、辟谣案例和抽样研究，系统梳理中文互联网上AI信息与虚假信息的数量边界、主要风险、合规要求，以及一套可落地的治理效果评估体系。
一、先厘清两个概念：AI信息≠虚假信息，虚假信息≠AI信息
很多文章把“AI内容”和“谣言”混为一谈，这会导致两层误判：一是把合规的AI客服、AI字幕、AI配图全部当成风险；二是把传统人工编造的谣言全部算到AI头上。
准确拆分应有四个集合：
- 纯人工、真实信息
：专家原创、媒体核实稿、政务公告、企业正式通报。 - 纯人工、虚假信息
：无AI参与但虚构事实，例如旧图新配、断章取义、冒充媒体。 - AI生成或AI辅助、真实/合规信息
：AI写提纲、AI润色、AI配宣传图、AI字幕、AI摘要，事实准确并按规定标识。 - AI生成或AI辅助、虚假信息
：用大模型编案情、用文生图做灾难假图、用拟声冒充领导、用数字人假冒专家荐股等。
治理对象主要是第4类，同时要对第3类做标识合规，对第2类做传统辟谣。三件事不能合并成一个“AI谣言总量”。
按这一口径回看公开数据会发现：
平台处置的“低质AIGC”包含虚假、标题党、无意义堆量、违规营销等，不完全等于虚假信息。今日头条2025年处置低质AIGC超260万条、违规账号1.1万个，同一报告清理虚假内容700余万条，两者口径不同。 小红书2025年上半年处置虚假笔记320万篇、其中低质AIGC笔记60万篇，说明在其“虚假”池子里，AI低质只是子集之一。 重庆互联网辟谣平台2025年辟谣内容中，AI生成近20%，这是“已辟谣子集”的AI占比，不等于重庆全网点位中AI虚假占20%。 南都大数据研究院统计2024年国内搜索热度较高的50个AI风险舆情案例，超1/5与AI造谣有关，同样是高热案例样本，不是随机全量抽样。
因此，任何“中文互联网AI虚假占百分之多少”的说法，都必须先写清：是全部网页、全部短视频、全部微信公号，还是已辟谣库、高热舆情库、平台处置库。不同分母会得到完全不同结论。
二、中文互联网AI与虚假信息的可引用数据边界
1. 全量随机占比：目前无可靠总比
中文网页、短视频、私域群聊、电商评价、直播话术、App内信等合在一起，没有机构能做逐条事实核查和逐条AI检测。原因有三：
私域数据不公开，微信群、企业微信、客服对话无法全量抽样； 短视频和直播体量巨大，人工标注成本极高； AI检测模型对中文梗图、方言音频、换脸视频存在误判，检测结果只能作辅助而非金标准。
所以严谨结论是：中文互联网“AI信息占总内容X%”“虚假信息占总内容Y%”目前均无权威全量数。可报的是分平台、分话题、分已辟谣样本的区间。
2. 单热点严抽：可到千分级
以突发公共卫生为例，对微博特定时间段、特定关键词帖子做人工编码， misinformation占比可低至0.3%水平；但这类结果只代表该热点、该平台、该抽样框，不能外推到娱乐、财经、灾情全年的所有内容。
3. 已辟谣/已处置子集：AI占比约两成，但非全网
可引用的国内样本包括：
重庆互联网辟谣平台2025年辟谣内容中，AI生成信息占比近20%。 南都大数据研究院2024年50个高热AI风险舆情案例中，AI造谣占超1/5。 中国互联网联合辟谣平台2025年第六批典型案例涉及AI预测彩票、AI冰雹假图、AI捏造杭州滨江刑案、AI编造重庆园区火灾等，相关违法违规账号累计处置2210个。 中国警察网归纳10起典型AI谣言：4起自然灾害相关、2起食品/学校安全、其余涉及伪科学、文娱、社会秩序、司法自动驾驶等，显示AI谣言并非只集中在单一话题。
这些数据的正确用法是“判断AI谣言的主题结构和高发场景”，不是“推算全网假信息里AI占多少”。
4. 平台处置量：看趋势，不看“占总量”
2025—2026年主要平台公开数据：
今日头条：2025年清理虚假内容700余万条，处置违规账号3.3万个；处置低质AIGC 260余万条、账号1.1万个；每月为约2000万条第三方上传AI内容补充标注，主动识别无声明AI内容并打标4000万条以上，判定准确率超95%；热点谣言1小时内完成存量回扫。 小红书：2025年上半年处置虚假笔记320万篇、虚假人设账号1万个、低质AIGC笔记60万篇，封禁批量造假黑灰产账号超1000万个；上线内容信息量模型、摘要提取、AIGC谣言诊断等15个模型。 抖音：2025安全报告称引入大模型后对比年初谣言内容曝光量下降90%，“求真提示”日均曝光超3亿；发现与处置从“天级”压缩到“小时级”。 快手：AI专项累计对104万条视频添加AI标识，处置AIGC违规内容8.9万条、账号2900余个。 中央网信办“清朗·整治AI技术滥用”第一阶段：处置违规小程序/应用/智能体等3500余款，清理违法违规信息96万余条，处置账号3700余个。
这些数据说明治理投入和处置规模，不说明“全网虚假率”。例如今日头条清700余万条虚假，是基于其平台体量、举报、模型巡检和权威信源比对得出的处置量；若不知道同期新增内容总数，就不能倒推“虚假率=700万/总内容”。
5. 热点高传播内容中的AI辅助比例
部分商业舆情机构抽样显示，转发超5000的中文社媒“病毒式”帖文中，含AI辅助写作、配图、配音、视频的比例约18%（2025年前后样本），并预估后续继续上升。该数据受平台、话题、样本量影响大，只适合作为“高传播内容AI化”的趋势参考，不适合当作所有短视频或所有公号的AI占比。
三、AI虚假信息为什么比传统谣言更难治理
理解评估指标前，要先理解AI谣言的制造和传播机理。结合国内案例，可归纳为五个机制。
1. 生产门槛低：从“会写”到“会提问”
传统造谣要求作者有写作、找图、剪辑能力；AI造谣只需提示词。案例包括：
重庆涪陵“农贸市场房屋倒塌”短视频，发布者用AI合成，约3.5小时后删除，仍被网信和应急部门核实为未发生事故； 四川武胜网民用AI做“特种兵+爆炸”“军机飞越古镇”视频，账号792条大多为AI快速生成，未标AI，声称“是现实的”； 福建宁德网民用AI生成“四川南充某中学食堂淋巴肉包子致87人中毒”； 厦门许某用AI助手生成“化工厂闪爆3死3伤”虚假文章，被行政处罚。
提示词替代专业能力的后果是：单人造谣可批量化，地方小事件可被包装成全国性灾难。
2. 多模态伪装：图、音、视频、数字人一体
传统谣言多为文字或单图；AI谣言常见组合：
文生图：广东冰雹“比鸡蛋还大”的AI假图，被多平台账号转发； 图+热点文案：日喀则地震期间，“废墟戴帽小孩”原图标注AI，被自媒体去掉标识后配日喀则文案传播； 文生视频：重庆南岸/武胜等案例中出现立交桥倒塌、军机飞行、爆炸画面； 拟声+换脸：冒充企业高管、专家、公职人员讲话，用于荐股、招商、政策造假； 数字人播报：仿新闻主播念伪造通稿，增加“权威感”。
多模态导致单靠文本审核不够，必须做图像指纹、音频声纹、视频关键帧、虚拟人检测。
3. 标识剥离与再传播
《人工智能生成合成内容标识办法》要求显式、隐式双标识，但实践中存在：
发布时删显式标识； 下载后转格式清除元数据； 截取AI视频单帧当“现场图”； 把AI文本改写得像原创，绕过检测。
南都测评2025年3月对25个内容传播平台、75款AI应用共100款APP发现：近七成平台在协议或规则上提示用户声明AI内容，但仅9个平台提供实际“声明”入口；不主动声明也能发布且无标识的情况仍存在。 这说明标识合规在头部平台较成熟，在中长尾平台和工具端仍要补强。
4. 变体裂变：同一条谣言换地名、换人名
传统谣言改一次标题；AI谣言可自动改写：
同一“猴子攻击”事件，可从峨眉山改九寨沟、张家界等； 同一“园区火灾死亡人数”模板，可套不同城市和不同伤亡数字； 同一“社保/五险一金补贴”话术，可换地区、换二维码。
这要求平台不只删单条，而是做语义聚类、模板指纹、跨账号图谱。
5. 流量黑产化：从情绪到变现
联合辟谣平台和公安案例显示，AI造谣常与以下动机绑定：
流量收益：灾难、色情边缘、名人丑闻； 诈骗引流：AI预测彩票、五险一金补贴、社保异常、企业信用修复； 商业抹黑：食品品牌“二氧化硫”“霉变”200余篇高度雷同稿； MCN矩阵：江西某MCN用AI工具批量造谣，湖南“民警离职潮”等案例显示组织化趋势。
因此治理效果不能只看“删帖数”，还要看黑产账号集群、跨平台搬运、变现链路是否被打断。
四、合规底座：标识办法、强标与应用商店核验
2025年9月1日起，《人工智能生成合成内容标识办法》正式施行，配套强制性国家标准GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》，形成“一部办法+一项强标+实践指南”的1+1+N体系。
1. 显式标识：让用户“一眼可见”
按办法和央视解读，显式标识按内容形态执行：
文本：在起始、末尾或中间适当位置添加“人工智能/AI生成/合成”等文字或通用符号；交互对话界面在周边提示。 音频：起始、末尾或中间加入语音提示或节奏提示。 图片：适当位置加显著文字/角标。 视频：起始画面加显著标识，播放周边可提示，末尾/中间可补充。 虚拟场景：起始画面提示，持续服务过程可适当再提示。 交互智能体/数字人：界面显著提示为AI。
显式标识解决“知情权”：普通用户看到提示后，应降低对内容的无条件信任，转而看信源、时间、地点、原始证据。
2. 隐式标识：让机器“查得到”
隐式标识写入文件元数据，包含：
生成合成属性标签； 服务提供者名称或编码； 内容编号； 传播平台名称/编码（传播环节补充）； 制作、传播唯一编号； 预留防护字段。
国标可按JSON等规范扩展AIGC字段，标签取值可区分“属于AI生成/可能为AI生成/疑似AI生成”。数字水印属于鼓励而非唯一强制方式，但可作为隐式增强。
隐式标识的价值在溯源：一段视频被截取、转码、去显式标识后，仍可通过元数据或水印回溯生成服务、内容编号、首次传播平台。
3. 传播平台四项核验义务
办法第六条对内容传播平台提出核心要求：
元数据有隐式标识→发布周边加显著提示； 无隐式标识但用户声明AI→加“可能为AI”提示； 无隐式标识、无声明，但平台检测到显式标识或其他生成痕迹→加“疑似AI”提示； 提供标识功能，提醒用户主动声明；同时在元数据补充传播要素。
这意味着平台不能只等创作者打标，必须做上传文件元数据读取、显式标识识别、生成痕迹检测三重校验。
4. 应用商店与分发平台
应用分发平台在上架/上线审核时，应要求AI应用说明是否提供生成合成服务，并核验标识相关材料。 这对中小AI工具尤其重要：很多谣言不是来自大厂模型，而是来自未接入标识、可离线去标、可批量出图的工具。
5. 禁止行为
办法明确：不得恶意删除、篡改、伪造、隐匿AI标识，不得为他人提供去标识工具，不得用不正当标识损害他人权益。 对“去水印去元数据的去标软件”、批量去标脚本，应作为违规工具治理，而非仅处理最终发帖人。
五、平台治理技术链路：从发现到溯源
评估效果前，先建立技术链路模型。成熟平台通常分七层。
1. 源头标识层
生成服务在输出时附加显式文字/角标/语音提示，写元数据隐式标识。大厂模型、剪辑工具、数字人平台应默认开启；API分发要给调用方返回标识参数。
2. 上传检测层
传播平台对上传内容做：
元数据解析：读AIGC字段、服务商编码、内容编号； 显式标识OCR/音频检测：识别“AI生成”角标、语音提示； 生成痕迹模型：检测文生图残差、语音合成特征、换脸关键点、数字人动作模式； 跨模态比对：文本摘要→图片反向搜索→视频关键帧→权威素材库。
今日头条对第三方上传AI内容每月补充标注约2000万条，主动识别无声明AI并打标4000万条以上，可作为“上传检测+补标”的参考规模。
3. 权威信源比对层
谣言判定不能只靠相似度，也要比事实。关键信源包括：
政府公告：应急、气象、公安、卫健、人社、教育、市场监管； 中国互联网联合辟谣平台及地方辟谣矩阵； 官方媒体核实稿； 企业官方通报、上市公司公告； 学术论文/指南（医疗、防灾、食品）。
今日头条把权威信源、谣言知识库、大模型联网查证结合，热点1小时内存量回扫； 抖音“求真”用RAG+权威源可做单条快速查证。该层决定“是不是假”，不仅决定“像不像AI”。
4. 热点预警与聚类层
对热搜、突发、高转发内容做主旨提取，自动生成事件卡片，聚合同模板变体。作用：
减少重复审核； 一次判定、全模板拦截； 对“换地名不换情节”的AI灾情稿做批量回扫。
小红书“同质化识别+15个识别模型”、今日头条“聚类发文+负评挖掘”都属于这一层。
5. 处置与降权层
处置不止删除，包括：
下架/不推荐； 搜索降排； 评论区挂辟谣卡； 账号分级处罚：限流、禁言、永久关闭； 黑产集群处置：同设备、同素材、同资金链路批量封禁。
小红书2025上半年封禁批量造假黑灰产超1000万账号，重点就在集群而非单帖。
6. 辟谣触达层
删除后仍需“正向填充”：
原视频挂“求真卡/辟谣卡”； 搜索相关关键词展现官方结论； 评论高亮权威信源； 事件结束生成时间线。
抖音“求真提示”日均3亿曝光，价值不在删除量，而在让不确定用户看到核实结论。
7. 溯源取证层
对重大AI谣言，用隐式元数据+显式截图+账号日志+传播路径还原：
哪个模型生成； 哪个账号首发； 哪些中介号转发； 是否去标； 是否关联诈骗二维码/私域。
该层直接支撑公安行政处罚、民事维权、平台追偿。
六、治理效果评估指标体系（核心部分）
很多单位评估治理只报“删了多少条”，这会高估成效。建议用七类一级指标、二十余项二级指标。
1. 标识合规指标
目的：衡量“AI内容有没有亮明身份”。
- 生成端显式标识率
：AI服务输出中带显式提示的比例。 - 生成端隐式标识率
：输出文件写入合规元数据的比例，按文本/图/音/视频分计。 - 传播端元数据读取率
：上传文件中含隐式标识被平台识别的比例。 - 无声明补标率
：无隐式标识但模型检测为AI，自动加“疑似AI”的比例。 - 用户主动声明可用率
：发布流程提供AI声明入口的比例。南都测评显示25个传播平台仅9个提供实际声明选项，该指标对中长尾平台尤其重要。 - 高风险场景强制标识率
：新闻、金融、医保、灾情、政务、未成年人内容中AI标识覆盖率应接近100%。
阈值建议：头部平台显式+隐式综合可设≥98%为达标；新接入AI工具≥90%为整改线；中长尾分发≥70%为预警线。
2. 主动发现指标
目的：衡量“不靠举报能否找到”。
- 主动发现率
＝主动模型/信源发现÷(主动发现+举报发现)。比率越高，事后被动越少。 - 首检中位时延
＝发布到进入疑似库的时间中位数。抖音从天级到小时级是改进样例。 - 热点全覆盖率
＝达到设定热度阈值的内容中，进入查证流程的比例。 - 变体召回率
＝同模板改写得以聚类和拦截的比例。 - 多模态覆盖率
＝文本、图片、音频、视频、数字人各自检测模型覆盖比例。
注意：主动发现率高并不必然等于删得多，也可能说明模型过严。要与误伤率同看。
3. 处置效率指标
目的：衡量“发现后拦多快、拦多准”。
- 判定到处置中位时长
- 1小时存量回扫率
：如头条对热点谣言1小时回扫； - 处置时平均浏览量
：抖音用“被处置谣言平均浏览量”下降衡量未大范围扩散； - 变体拦截率
＝新变体在首发前被拦比例； - 账号集群处置率
＝涉及同黑产图的账号一次性处置比例； - 自动处置占比
＝机器直接处置÷总处置，需配合人工抽检。
曝光下降类指标要谨慎解读。某平台“谣言曝光降90%”可能来自标识、降权、下架、求真卡、搜索辟谣综合作用，不能简单写成“谣言减少90%”。
4. 准确性与误伤指标
目的：防止“为了清零乱删”。
- 谣言判定准确率
：用人工金标准抽检，而非模型自报。头条对无声明AI补标准确率超95%，但是“AI识别”准确率，不等于“谣言判定”准确率，两者分开报。 - 误删率
＝真实信息被下架/限流比例，按新闻、科普、维权、讽刺、地方方言分层。 - 漏报率
＝外网已热、本平台迟报或未报的AI假信息数。可用盲样回测。 - 申诉恢复率/恢复时长
：创作者申诉后恢复曝光的比例和时长。 - AI标识误标率
：人工内容被标AI、AI内容未标AI分别统计。
建议月度人工抽检不少于固定样本量，按内容类型分层；对新闻、医疗、司法、维权类误删权重加倍。
5. 辟谣与溯源指标
目的：衡量“删完后公众信什么”。
- 辟谣卡触达UV
：原帖、评论、搜索相关词的总触达。 - 搜索辟谣展现率
：相关关键词搜索结果中官方辟谣/权威信源比例。 - 溯源成功率
：拿到可疑文件能通过元数据还原生成服务、内容编号、传播节点的比例。 - 跨平台复用率
：同谣言指纹在多家平台共享判定结论的比例。当前国内跨平台回流仍弱，可设为建设指标。 - 权威信源引用率
：辟谣结论附政府/联合辟谣/官方媒体原始依据的比例。
6. 用户与生态指标
目的：衡量长期信任和辨识力。
- 无标识AI假图识别率
：投放实验材料，测用户能否怀疑。 - 有标识后信任修正率
：看到“AI生成”后是否更倾向核查信源。 - 有效举报率
＝举报中最终成立比例，避免举报泡沫。 - 黑产新模板数
：单位时间内新出现的AI造谣模板、去标工具、换脸套餐数量。数量上升不一定治理变差，但要结合漏报率看。 - 创作者合规培训覆盖率
：机构号、MCN、新闻类账号接受AI标识和事实核查培训的比例。
7. 业务结果指标（监管/企业通用）
对监管部门：
重点平台标识合规率； 重大突发AI谣言首条辟谣时长； 跨平台联合处置次数； 违规AI产品下架数（如清朗第一阶段3500余款）； 涉诈、涉灾、涉校、涉医AI谣言结案率。
对企业品牌：
仿冒账号/仿冒语音发现时长； AI负面稿首发到澄清时长； 去标截图复传播次数； 投诉下架成功率； 品牌词搜索结果权威信息覆盖率。
七、按场景给出评估看板样例
不同场景权重不同，不能一套指标打全部平台。
1. 新闻资讯类（头条、新闻App、公众号）
重点：权威信源比对、热点1小时回扫、误删率、出处完整度。
核心KPI：主动发现率、首检时延、1小时回扫率、误删率、辟谣卡搜索展现率。
参考：头条2025虚假700余万条、低质AIGC 260余万条、1小时回扫、AI补标4000万条以上。
2. 短视频类（抖音、快手、视频号）
重点：视频关键帧、换脸拟声、去标重传、求真卡触达。
核心KPI：AI标识添加量、AIGC违规处置量、热点处置时延时序数、求真/辟谣日均曝光、变体召回率。
参考：抖音曝光降90%、求真日均3亿； 快手104万视频标识、8.9万违规、2900账号。
3. 种草社区类（小红书、部分女性/消费社区）
重点：虚假人设、低质AIGC笔记、医疗美容带货、黑灰产矩阵。
核心KPI：AIGC笔记识别率、虚假人设账号处置率、黑灰产集群封禁率、信源库覆盖。
参考：半年虚假笔记320万、AIGC低质60万、人设账号1万、黑灰产千万。
4. 社交转发类（微博、QQ、群聊）
重点：高转发谣言、AI图去标重发、热点话题聚类。
核心KPI：热搜事件首检时延、变体聚类率、跨账号图谱、辟谣话题阅读转化。
补充：公开网页抽样可严，但群聊私域只能做举报+样本接入，不追求全量。
5. 电商与本地生活
重点：AI虚假评价、AI客服承诺超范围、AI生成资质证书、假检测报告。
核心KPI：评价AI撰写识别率、商家资质图像伪造识别率、售后投诉转化率、下架到补标时长。
八、典型AI谣言案例与评估启示
用案例反推指标，比单纯看总量更有用。
案例1：日喀则地震“废墟小孩”AI图
原图标注AI，被去标识后配地震文案传播。
评估启示：显式标识被剥离后，平台必须靠图像指纹和隐式元数据识别；跨平台回查要看原图首次发布声明。
案例2：广东冰雹“比鸡蛋还大”AI假图
多平台账号用AI夸大灾情，相关号被关闭。
启示：气象类热点要建立实拍图库比对；对“极端尺寸/极端伤亡”词汇做高优人工复核。
案例3：杭州滨江AI捏造刑案
用AI生成虚假案情并深度编辑，跨社交平台发布。
启示：刑案类应以公安通报为唯一放行标准；未通报前只做“待核实”降权，不直接当已证实热点推。
案例4：重庆园区“10人遇难上百人失联”
AI/拼凑信息在抖音、微博等传播，账号关闭。
启示：灾难伤亡数字必须对接应急、消防；同模板换城市要聚类和预拦截。
案例5：AI预测彩票、五险一金补贴
前者涉及赌博骗局，后者涉及人社诈骗。
启示：金融/社保类AI内容应强制显著标识+外链风险拦截+官方辟谣卡。
案例6：企业品牌200余篇雷同负面
食品品牌被AI/洗稿攻击“二氧化硫”“霉变”。
启示：品牌风控看“同质稿件聚类数+首发账号图谱+法务下架时效”，不单看单条删除。
案例7：武胜AI军机/爆炸视频
792条大多AI生成，不标AI并声称现实。
启示：高频AI号应做作者级治理，而非只删单条；未标识+高军事敏感=高优先级。
九、企业如何做AI虚假信息合规与自护
不是平台才需要治理。品牌、高校、医疗机构、金融机构都会遇到“被AI造谣”。
1. 发布端合规
所有对外AI物料：新闻稿摘要、客服话术、培训视频、数字人播报，默认加显式标识； 文件保存元数据/水印，便于后续证明“系官方AI而非冒充”； 涉及灾情、医疗、政策、财报的内容，AI只做初稿，人工复核原始信源后发布； 禁止用AI伪造用户评价、伪造资质、伪造媒体采访。
2. 监测端
品牌词+法人姓名+产品名+“AI拟声/数字人/截图”组合监测； 对短视频、小红书、微博、抖音、微信群各设热级告警； 建立“仿冒账号库”：头像、昵称、声音样本、历史文案； 接中国互联网联合辟谣平台、属地网信举报、平台企业举报入口。
3. 处置端SOP
发现疑似AI负面→截图存证+下载原文件查元数据； 判断是否为官方AI产物、是否仿冒、是否去标； 向平台提交标识异常、侵权、诽谤、诈骗材料； 重大谣言同步公安网安、属地网信、行业主管； 发布官方澄清，附原始证据时间线； 搜索结果做权威稿覆盖，减少长尾误读。
4. 效果自评
企业不用照搬平台700万、300万量级，改用：
仿冒内容首发到下线时长； 去标AI图复现次数； 品牌词搜索前10权威信息占比； 单起危机辟谣阅读∶谣言峰值阅读； 季度新仿冒模板数。
十、个人读者如何降低被AI虚假信息误导
普通用户不评“占比”，但可以建立五步法：
看标识：有“AI生成/疑似AI”先降置信度，不马上转发； 看信源：政府、公安、应急、卫健、官方媒体、企业官网，优于营销号截图； 看证据：有无时间、地点、原始视频、可联系部门；只有一张图+情绪标题，优先存疑； 反向搜图/搜视频：用搜索引擎、平台辟谣页查是否旧图新发、是否去标重传； 看更新：突发事件以最新通报为准，早期截图可能被AI改写或拼接。
对“AI预测彩票、内部补贴、名人私密、灾难现场独家视频、医院内部通知”五类，默认高疑。
十一、常见评估误区
- 把处置量当占比
：删700万条不代表全网700万/总内容。 - 把已辟谣AI比例当全网AI假比例
：重庆近20%、南都超1/5都是子集。 - 只看删除数不看误伤
：新闻、科普、维权被误删会损害真实信息供给。 - 只看曝光下降不看补标
：曝光降可能是算法降权，不等于标识和溯源改善。 - 只测文本不测视频/音频
：中文AI谣言已多模态化，单文本模型会漏。 - 忽略私域
：群聊、私信、企业内网假信息不进入公开平台报表，但可能造成诈骗损失。 - 用平台自报准确率代替独立抽检
：应由第三方盲样、人工金标准复核。
十二、总结：治理效果的最终判断标准
中文互联网AI虚假信息治理，是否“有效”可浓缩成六句话：
标识上，AI内容显式可看见、隐式可回溯，未声明能补标； 发现上，热点不靠举报也能小时级进入核查； 判定上，权威信源比对优先于单纯相似度，准确率与误伤率双报； 处置上，单条删除之外能做模板聚类、账号集群、跨平台变体回扫； 辟谣上，删帖同时用求真卡、搜索辟谣、时间线还原替代信息真空； 长期上，用户辨识率提升、黑产新模板被发现周期缩短、企业仿冒损失下降。
按这个标准，2025—2026年国内已有明显进步：标识办法和GB 45438-2025提供统一合规底座； 头条、抖音、快手、小红书等平台在主动发现、AI补标、热点回扫、求真触达上形成可量化指标； 网信和公安通过清朗行动、联合辟谣、个案处罚压制AI造谣黑产。 但中长尾AI工具、私域传播、去标重传、跨平台溯源仍是短板。后续评估应从“删了多少”转向“标识覆盖率、主动发现率、首检时延、误伤率、辟谣触达率、溯源成功率”六维并重，才能真实反映治理效果。