乐于分享
好东西不私藏

【AI大事记】用AI造了个假视频,他被罚了700块,但造成的损失,可能要几百万才能填平.

【AI大事记】用AI造了个假视频,他被罚了700块,但造成的损失,可能要几百万才能填平.

市场监管人员正在调查取证

大家好啊,我是专注AI智能体的零零~🌸

你们刷短视频的时候,有没有被那种特别惊悚的新闻吓到过?

比如「某某地方惊现某某东西,大家千万注意」这种?

最近,央视新闻曝光了一个案子,看完我后背发凉——有个男的,就用AI工具捣鼓了3个视频,直接让整个湖北大米产业遭了殃。

一条视频,500万人被吓懵了

电脑屏幕上显示AI生成视频的识别界面

事情是这样的。

5月初,有个湖南怀化的网友(我们就叫他小舒吧),刷手机的时候发现食品安全的话题特别容易火。他脑子一转:要不我也搞个大新闻?

说干就干。小舒打开了三个AI工具——Runway生成生产线视频,Midjourney制作「人造大米」特写图,讯飞听见合成「专家警示」配音。

不到一小时,一条「湖北惊现人造大米生产线,掺杂黄曲霉素」的惊悚视频就诞生了。

结果呢?3天之内,这条视频播放量突破500万。

多地市民开始恐慌性抢购大米。有超市大米卖断了货,有的大妈一口气囤了5袋,还有人连夜给在外地的孩子寄米——生怕孩子吃上「毒米」。

700块罚款,但损失可能上百万

事情闹大了,警察找上门。

一查才发现,视频里那个「生产线」其实就是一家普通的饲料加工厂,「人造大米」就是普通的淀粉颗粒,跟湖北大米八竿子打不着。

最后,小舒被罚了700块,责令删除视频。

700块?就这?

但你知道他造成的损失有多大吗?湖北是全国的粮仓,2025年大米产量2800万吨,产值超600亿。谣言一出,湖北大米销量直接跌了30%。

有米业公司负责人说:「我们花了3年建立的品牌信任,一条假视频就给毁了。订单直接少了一半,直接损失超百万。」

稻农更惨:「收购价每斤降了2毛钱,全家收入少了2万多。」

AI造谣,3个工具1小时搞定

展示AI造谣的成本极低

这才是最可怕的地方。

小舒自己交代:「我就是想涨粉,没想到后果这么严重。」

一个普通人,用3个AI工具,花不到1小时,就能炮制出一条以假乱真的谣言视频,引发全网恐慌。

据中国互联网联合辟谣平台统计,2026年一季度,AI生成的谣言同比增长了370%!其中食品、医疗、民生类谣言占比超过60%。

也就是说,你刷到的每10条惊悚新闻,可能有3条是AI编的。

4招教你识破AI假视频

网警和辟谣专家联手出了个防骗指南,零零给大家划重点:

第一招:看来源

谣言往往来自无认证、无资质的「三无账号」。如果看到「震惊」「紧急通知」「秘密曝光」这种标题,先打个问号。

第二招:查细节

AI生成的视频常有破绽:物体边缘模糊、人物动作僵硬、场景光影错乱。看到不对劲的地方,多留个心眼。

第三招:对官方

涉及食品安全、公共安全的信息,去政府官网、权威媒体查证。别信朋友圈里转来的「内部消息」。

第四招:等一等

谣言最大的天敌是时间。如果一条新闻让你特别激动,先深呼吸,等一等再看。看到「有毒」「致癌」「千万别吃」这种字眼,更要多等几个小时,让子弹飞一会儿。

零零的碎碎念

在AI时代保持理性和判断力

说到底,AI只是一个工具。

它可以被用来造谣诈骗,也可以被用来提高效率、创造价值。关键看谁在用,用来做什么。

作为普通人,我们能做的就是:别轻信,多核实,不传谣。

下次刷到那种让你「震惊」的视频,记得先看看来源,想想动机,等一等再转发。

毕竟,你的一次转发,可能就会让一个无辜的农民、一个小企业主,付出沉重的代价。

好了,今天就聊到这儿,我们下期见!

━━━━━━━━━━━

如果你也对AI智能体感兴趣,欢迎加我,一起交流学习AI智能体

(VX:AI-00-260214)备注「学习智能体」

添加零零微信