夜雨聆风学习资料网

ARTICLE · 985763

没标 AI 的,就是真的吗?

没标 AI 的,就是真的吗?

约 7 分钟阅读

我以前干过一个挺损的事。

网上有一种工具,可以生成微信聊天记录的图片。头像、昵称、气泡、时间,全都能自己填,生成出来跟真的微信截图一模一样。我拿它整蛊过朋友,编了一段假对话发过去,对方完全没看出来。

当时也没人觉得这件事需要额外说明。平台没提示我「这是生成的图片,请标注」,朋友也没问过「这是不是你拿程序做的」。我自己更没想过,做这种图还需要专门告诉别人它是怎么做出来的。

后来 AI 火了,我发现这件事好像突然不一样了。同样的图,你用 AI 生成,平台会提醒你标注「AI 生成」。你用那个生成器,一个字一个字填,不用标。你用 Photoshop 慢慢 P,也不用标。

同样是做出来的东西,为什么 AI 参与了,就要特别声明?

两条轴,不是一条

后来我仔细想了想,发现这里面其实是两件事,我们平时很容易当成一件。一件是,它是怎么做出来的。一件是,它说的是不是真的。

拿微信截图来说:

真实的聊天,自己截图,这个没问题。让 AI 把真实聊天重新画一遍界面呢?内容是真的,但图是 AI 画的。反过来,编一段假聊天,用 Photoshop 一个字一个字 P,没用 AI,可内容是假的。最彻底的是直接用 AI 编一段,全占了。

你看,AI 不 AI,说的是生产方式。真不真,说的是内容和现实的关系。这是两条轴,不是一条。

两条互不替代的轨道分别检验制作方式与内容真假

而且不只是这种小工具。Photoshop 早就能改图,程序员也早就能复刻微信、支付宝的界面。但这么多年,没人要求你注明「本图经过 Photoshop」,也没人要求写一句「本截图由 HTML 加 CSS 友情出演」。有点像做算术,通常没人关心你是口算、打算盘还是按计算器,最后还是得看结果对不对。

AI 标签为什么仍然有用

先说一句公道话,AI 被单独拎出来,不是没有道理。以前造假是有门槛的。P 图你得会 Photoshop,做假页面你得会写代码,做假视频成本更高。会的人少,做的速度也慢。

AI 把这个门槛一下压低了。一句话,几十秒,还能批量。会不会技术不重要了,会说话就行。

生成工具把原本很高的造假门槛压成可批量通过的低坡道

所以平台紧张,我完全理解。AI 没有发明造假,但它确实把很多造假的门槛,一下打低了。标识的意义在于提醒,这个内容经过了生成式技术处理,你需要多留个心眼。

这个提醒本身,我觉得没毛病。问题出在别的地方。

平台想告诉你的是,这段内容使用了 AI 技术。但很多人看到标签,脑子里自动翻译成,这是假的。

反过来也一样,一个东西没标 AI,大家下意识就放心一点。

这就有点荒诞了。AI 生成一张假聊天截图,有警告。生成器做一张假聊天截图,没警告。手动 P 一张,还是没警告。三张图都可以假得一模一样,但只有一张挂了牌子。

从「有没有告诉你它是怎么做出来的」这件事上说,挂牌子的那个,反而交代得最清楚。AI 标签给 AI 内容加了一个显眼的问号,却给所有没标的内容,加了一个看不见的句号。

同样可疑的内容里,只有带技术标签的一份被放到问号灯下

边界只会越来越难画

这才是我觉得更麻烦的地方。而且「是不是 AI 做的」这个问题本身,以后会越来越难回答。

就拿我自己举例。我可以让 AI 帮我写一个聊天截图生成器,存下来。第二天不开任何 AI,直接运行这个程序,生成一张图。

你说这张图算什么?程序生成的?可程序是 AI 写的。AI 生成的?可我运行的时候,AI 根本没参与。

写文章也一样。观点是我出的,资料让 AI 去查,初稿我自己写,写完错别字又扔给它改。最后这篇到底算谁写的?

当 AI 慢慢变成生产链里的一个普通环节,「AI 内容」这条边界,只会越来越难画。

表达看价值,事实看证据

那怎么办呢。后来我自己想了想,也许可以先粗暴地分一下。

如果一个内容是在告诉我「某件事真的发生过」,比如新闻、聊天记录、数据,那我关心的是证据。用没用 AI 不重要,手工伪造的一样是造谣。

如果它主要是在表达一个观点、讲一个故事、画一幅图,那我更关心的是它最后有没有价值。

简单说就是,表达型内容,多看价值。事实型内容,多看证据。

最后还有一点。AI 说错了,你不能说 AI 写的跟我没关系。Photoshop 做了假图,你也不能说是软件干的。

工具可以参与生产,但不能替人承担责任。

最后点下发布的,还是你。

多种工具汇入发布装置,但责任绳最终仍系在按下按钮的人手上

所以这篇也不是想说 AI 标签不该存在。现阶段它有用,该标就标。

我只是偶尔会想十年以后的事。到那时候,文章有 AI 润色,照片有 AI 降噪,剪视频、写代码的软件也默认带着 AI,「AI 参与过」这句话,可能会变得跟「本图经过电脑处理」一样,说了跟没说差不多。

真正麻烦的问题还是那个,它说的到底是不是真的,值不值得信。以前没有哪个标签能替你回答。

以后大概也不会有。

对了,我那个生成器,现在还躺在收藏夹里。

相关学习资料