夜雨聆风学习资料网

ARTICLE · 1027512

那张"实锤"截图,是AI做的

那张"实锤"截图,是AI做的
今年8月28日上午,一个刚注册的微博账号,甩出几张聊天记录截图。

配了几张打了马赛克的照片,暗示两位公众人物之间有不堪入目的私照流出。

几小时后,热搜第八。

当天下午,翻车。当事人出来辟谣:那些聊天记录,是AI自动生成的;所谓私照,是拿她早年的公开自拍,用AI恶意伪造的。平台核实后通报——造谣的号,封了。

从"实锤"到打脸,前后不到一天。

但最让人后背发凉的,是这个号本身的底细:它只关注了一个人,只发过这一条内容。

说白了,这是个用完就扔的一次性账号。发完这条后来冲上热搜第八的假消息,它的活儿就算干完了。等追责的人找上门,能抓到的只有一个已经注销的空壳。

这其实不是什么八卦。

这是一次公开演示:在今天,伪造一份"看起来像证据"的东西,几乎不需要任何成本;而它造成的伤害,撤不回来。

"有图有真相",这话已经过期了

这句话当年确实好使。

原因也很朴素——过去造一份能以假乱真的东西,是有门槛的。你得会修图,得有素材,得耗时间,还得担着被拆穿的风险。门槛本身就是一道筛子,把绝大多数人挡在了外面。

AI把这道门槛碾平了。

聊天记录能编。四川顺庆公安今年4月办过这么个案子:一个男的给主播打赏,结果被拉黑了。气不过,就用AI编了一段该主播与人进行"钱色交易"的聊天记录,还做了段伪造视频,发到网上。这人最终被依法行政处罚。

视频也能造。一段网传车辆事故的视频里,眼尖的网友发现,画面中的车牌号两秒之内从"985"变成了"995"。警方核查后确认:根本没有这个号牌的备案登记,画面里还留着AI生成的痕迹。

去年9月台风"桦加沙"登陆前后,同类的事扎堆出现。深圳腾讯总部那只企鹅Q仔被绳子拴住的照片火了,"鹅已经把自己拴好了"的梗全网刷屏。紧接着,一批更夸张的图就跟了上来:同一只企鹅被台风撕扯得只剩双脚;深交所门前的铜牛被粗绳拴在柱子上。结果这些全被证实是AI合成的——腾讯官方在微博辟谣"鹅还稳稳的",媒体跑去实地一看:深交所门前,压根就没有柱子。

文章更省事,"洗稿"就能批量生产。上海警方破过一起:一个自媒体人花800块钱找人代笔,用AI生成了一篇讲某茶饮企业的假文章,在十几个平台一发——该企业部分区域门店,单日营业额同比下降超过20%。最终8人被采取刑事强制措施。

公安部的数据更直白:仅2026年上半年,全国就侦办了利用AI工具造谣的案件170余起,查处190余人。

这里头有个绕不开的变化,我觉得每个人都应该记住:

造谣的成本快降到零了。可辟谣的成本、受害者自证清白的成本、社会信任修复的成本,全在往上走。

谣言和辟谣,从来就不是一场对等的仗。辟谣总是追不上谣言,不是辟谣的人不够拼,而是造谣和辟谣这两件事,压根不在同一条成本曲线上。而AI,把这条曲线掰得更狠了。

不是你变笨了,是直觉过时了

说实话,大家会中招,不是因为笨。

是因为我们脑子里那套"真伪判断系统",本来就是给另一个世界造的。

第一层,是"眼见为实"的本能。

人类几百万年进化出来的信任机制,核心就一句话:我看到了。这套机制在真实世界里好使得很,但它一直藏着一个从没被挑战过的前提——能看见的东西,得是真实存在过的。AI第一次把这个前提撬开了。

第二层,是我们把"逼真"当成了"真实"。

判断一张图真假的时候,我们潜意识里问的是"它像不像真的"。可AI生成的东西有个很邪门的毛病:大面上像得不得了,细节上却总在露馅。手指的根数对不对、光影方向一不一致、笔画糊没糊成一团、物体边缘连不连续、同一个画面里来回变的字符——这些地方,恰恰是我们平时压根不会去看的。

第三层,也是最难扛的一层:情绪跑得比理性快。

AI造的谣,几乎都会先给你塞一个情绪钩子。愤怒、恐惧、义愤、猎奇,总有一款适合你。而当你觉得"血往头上涌、不转不行"的那一刻——恰恰是你判断力最拉胯的时刻。

还有第四层,说出来有点扎心:站队,是有收益的。

在公共事件里抢着表态,能换来道德快感、群体归属感,还有实实在在的流量反馈。可"我再看看"呢?它是沉默的,没收益,甚至显得你"不够正义"。于是整个舆论场,慢慢变成了这么个局面——谁慢半拍,谁吃亏。

这一点,在年轻人身上尤其明显。中青校媒最近的调查显示:超过六成的受访大学生,被网络假信息误导过。

倒不是说年轻人更好骗。而是他们正处在传播链上最活跃的那一环——转得最快、情绪最足,也最在意"我得站在对的这一边"。

但"什么都不信",一样很危险

讲到这儿,有句话必须补上。

如果应对AI谣言的办法,是"反正什么都可能是假的,那我谁都不信"——那我们不是赢了谎言,而是把真相一起埋了。

这个后果特别具体:当任何东西都可能被一句"这是AI做的"轻轻带过,真正的受害者就再也拿不出可信的证据了。

被骚扰的人、被侵权的人、被霸凌的人。他们手里那些录音、截图、视频,迎面撞上的第一句话可能就是:"这不会是AI做的吧?"

这才是AI造谣最阴的地方。

它不光让假话变多了——它在稀释真话的分量。

当"有证据"都不再被当回事,权力就自动流向了那个不需要证据就能压人的人。

所以我们要练的,不是怀疑一切,而是按比例分配信任:不因为一张图就给人定罪,也不因为一句"可能是AI",就把正规信源一脚踢开。

审慎的终点是判断力升级,不是干脆不判断了。

转发前,花30秒问自己五个问题

复杂的媒介素养,压成一句话就是:

截图是线索,不是结论。来源排第一,内容只能排第二。

落到操作上,转发或者表态之前,问这么几句:

1. 谁发的?

点进主页扫一眼就行:这号什么时候注册的?以前发过什么?是不是个"只发过这一条"的空号?记住一点:一次性账号,是AI造谣最常见的马甲。

2. 最早是从哪儿冒出来的?

用图片反向搜索追源头——Google以图搜图、TinEye(擅长查最早出处和改图记录)、Yandex(认人脸、认地点比较强)、百度识图。电脑上更省事:Chrome右键图片,选"用Google智能镜头搜索图片";Edge右键,选"在侧边栏中搜索图片"。一秒就能起手。关键动作是:把结果按时间从旧到新排序,找到最早那一次出现,看看它当时是在什么上下文里。

3. 有没有能追到根的原始信源?

官方通报、当事方声明、权威媒体报道——这三样至少得对上一个。只有截图、只有"网友爆料"、只有"内部人士透露"的,一律降级处理。

4. 细节对得上吗?

凑近看:光影方向一不一致、笔画糊没糊成一团、手指和物体边缘怪不怪、同一画面里有没有前后打架的字符(比如那个会变号的车牌)、时间线合不合逻辑(季节、穿着、天色对不对得上)。

5. 反证在哪?

顺手搜一下"XX谣言""XX辟谣"。中国互联网联合辟谣平台整合了111家单位的资源,是最靠谱的查证入口之一。

再推荐两样可以马上用起来的东西:

一个是国家反诈中心App,已经上线了AI内容鉴定功能。可疑的语音、图片、视频传上去,就能测测有没有AI生成的痕迹。

另一个,是留意平台自动打的"AI生成"标签。2025年9月1日起施行的《人工智能生成合成内容标识办法》要求:AI生成的文本、图片、音频、视频,都得亮明身份——显式标识要让人一眼能看见,隐式标识要写进文件元数据(字段名里带AIGC)。国际上还有个叫C2PA的"内容凭证"标准,用加密签名把一张图的作者、时间、修改历史全记下来,任何一点改动都会让验证失效。

最后一招,也是最管用的:不确定的,就别转。让子弹飞一会儿,代价只是你少表一次态。而站错队的代价,是别人的一辈子。

规矩在收紧,但堵不住所有作恶的手

制度这张网确实在收,这点得说清楚——因为它划出了每个人的行为边界。

2025年9月1日,《人工智能生成合成内容标识办法》正式施行。AI生成内容必须亮明身份,而且白纸黑字写着:任何组织和个人,都不许恶意删除、篡改、伪造、隐匿这些标识。

2026年4月起,中央网信办启动"清朗·整治AI应用乱象"专项行动。光第一阶段,就处置了1.4万余款违规AI产品、清理600余万条违法违规信息、处置2.6万余个账号。

司法也在加码。北京互联网法院已经把"故意用生成式AI捏造事实"列为从重处罚的情节。

后果更是实打实的。用AI造谣、深度伪造侵害他人,民事、行政、刑事责任一个都跑不掉:《民法典》保护名誉权和肖像权;《治安管理处罚法》第二十九条,对故意散布谣言可处拘留并罚款;《刑法》第二百四十六条、第二百九十一条之一,分别对应诽谤罪和编造、故意传播虚假信息罪。

而且——转发一样可能担责。明知是假消息还转,或者你的转发明显扩大了损害,转发者得承担相应责任。

到2025年6月,我国生成式AI用户已达5.15亿人。

这意味着,技术跑得再快,也永远追在你我每一次转发的后面。

最后那道防线,只能是屏幕前的你。

不同年纪的人,各自要记住的那句话

我们正在经历一次关于"证据"的观念迁移。

从前,证据金贵,是因为它稀罕。现在,证据能无限量产,于是"证据"这个词的重点,从"有没有",挪到了"从哪来、经不经得起追"。

但说到底,这事儿落到每个人头上,只要求一件事:

在你按下转发、敲下评语、加入审判之前,多停30秒,问一句——这玩意儿,从哪儿来的?

在一个AI能把任何人的脸、声音、字迹、聊天记录都伪造得一模一样的时代,我们对陌生人最大的善意,就是证据不够的时候,别急着判他有罪。

这份善意,不同年纪的人,要记住的样子不太一样。

如果你是年轻人——

你是传播链上最强的扩音器,也是最容易先被点着的那拨人。但真正的酷,不是第一个冲上去表态,而是全场都在站队的时候,你敢说一句"我还在看证据"。怀疑不等于冷漠,克制也不是软弱。在一个鼓励当场审判的环境里,克制是一种稀缺的勇气。

如果你已人到中年——

你手上那个转发键,可能踩在法律红线上,也可能砸掉一家小店、一个普通人的饭碗。那家茶饮店单日营业额掉了两成的时候,造谣的人只不过想多赚点广告费。谨慎一点吧——你已经是个要负全责的成年人了。

如果你家有长辈——

请把这段话转给他:家族群里那些"紧急提醒""千万别吃""速看速删",大多是不法分子拿AI批量生产的。心是好的。但转一条没头没尾的"善意提醒",可能让另一位老人照着做出错误的健康决定。看到了,先问问家里的孩子。这不丢人。

如果你要告诉一个孩子——

只要两句话就够了。第一,网上流传的截图,不能当任何人的罪证。第二,如果你自己被AI伪造的内容伤到了,第一时间告诉爸妈和老师,把原始链接、截图、时间信息留好,然后报警——证据链越完整,维权越有底气。

不造谣是底线,不传谣是本分。

而在一片喧哗里还肯保持审慎,是这个时代最稀缺、也最值钱的公民素养。

真相的分量,从来不取决于它喊得多响。

而取决于有多少人,愿意为它多花三十秒。

相关学习资料