ARTICLE · 1208648
连法庭都开始担心AI造假了,我们以后还能相信视频吗?
连法庭都开始担心AI造假了,我们以后还能相信视频吗?以前，我们判断一件事是真是假，往往有个很简单的办法：有图有视频，总比光听别人说可靠。一个人说自己没去过某个地方，视频里却清清楚楚出现了他的身影，似乎就很难再解释了。 但现在，这个办法可能没以前那么管用了。 10月15日，路透社报道，美国司法系统的一个证据规则咨询委员会再次讨论了AI生成的假视频、假音频问题。OpenAI和Meta的代表都提醒与会者，随着生成技术不断进步，想要判断一段录音或视频究竟是真是假，正在变得越来越困难。 这件事有意思的地方在于，讨论它的不是短视频博主，也不是担心被恶搞的明星，而是需要判断证据能不能采信的法律专业人士。因为在法庭上，一段视频可能关系到一个人是否有罪；放到普通人的生活里，一段伪造的语音，也可能关系到钱会不会被骗走。 当然，现在还不能说网上的每段视频都有问题。美国联邦司法研究中心此前调查了931名法官，其中15人表示曾遇到过一方质疑证据属于深度伪造的情况。这个数字并不能说明所有AI造假问题的规模，却足以让人看到：随着技术进步，如何验证数字内容的真实性，已经成了一个需要认真解决的问题。 过去，很多人觉得AI视频很好辨认。人物的手指可能不对，嘴巴和声音对不上，背景里的文字会变形，人物转头时脸也可能突然发生变化。看到这些破绽，我们就会怀疑视频是不是生成的。 可如果我们把判断真假完全寄托在这些细节上，就容易落入另一个误区：今天能发现的破绽，明天未必还存在。 AI生成技术进步后，人物的表情、说话时的嘴型、声音里的停顿，甚至一些看似自然的小动作，都能做得更加逼真。更重要的是，造假者不一定需要制作一段几分钟的完整视频。有时候，一段十几秒的内容就足以让人误会，甚至引发争吵。 想象一下，你在家族群里看到一段视频，画面中的亲戚声称遇到了急事，让你赶紧转一笔钱。视频里的人长相没问题，声音也很熟悉，背景听起来同样真实。你会不会下意识地相信？ 这就是问题所在。过去我们依靠熟悉的面孔和声音确认一个人的身份，可现在，面孔和声音本身也可能被模仿。技术改变的不只是视频制作方式，还动摇了我们原本习以为常的信任方式。 当然不是。我们不需要因为AI造假就怀疑一切，但需要换一种判断方式。 首先，别把画面本身当成全部证据。一段视频可以作为线索，却不一定能独立证明事情确实发生过。尤其是涉及金钱、名誉、公共事件的内容，更应该看看有没有其他可靠来源能够相互印证。 其次，要特别警惕那些催你立刻行动的内容。比如有人发来语音，说家里出了急事要借钱；有人发视频，声称某个知名人物正在推荐一项稳赚不赔的投资；还有人冒充单位领导，要求你马上转账。这些情况真正危险的地方，不是画面做得有多精细，而是它们利用熟悉感和紧迫感，让你来不及核实就做出决定。 碰到类似情况，最有效的办法往往很朴素：不要直接按照对方发来的联系方式进行确认，而是用自己原本保存的电话号码重新联系本人。如果对方声称情况紧急，也可以通过其他家人或同事交叉核实。家里人之间还可以提前约定一个只有彼此知道的验证方式。 最后，不要过分迷信所谓的AI检测工具。某个工具说视频可能是假的，不等于它已经证明视频造假；某个工具没检测出问题，也不代表视频一定是真的。现阶段，技术检测可以帮助判断，但不能代替来源核查和事实验证。 我们已经习惯了用手机记录生活，也习惯了把视频当作信息传播的重要载体。过去，一段清晰的现场录像往往很有说服力；以后，画面越逼真，反而越需要知道它从哪里来、有没有经过剪辑、能不能被其他证据印证。 这并不是说影像失去了价值，而是它需要更多背景信息来支撑。就像一张截图，单看画面也许能说明一些问题，但如果不知道截图来自哪里、上下文是什么，就很容易被误解。AI让制作内容变得更容易，也让核实内容变得更加重要。 对普通人来说，不必急着学习复杂的鉴伪技术。先养成一个习惯就够了：越是让你震惊、愤怒、害怕，或者催着你马上转钱的内容，越要停下来核实一下。 不要只问这段视频像不像真的，还要问它来自哪里，有没有其他可靠信息能够证明它是真的。 科技进步不一定会让每件事都变得更简单。有时候，它只是让我们必须重新学习一件以前以为自己早就会做的事：判断什么值得相信。 这里是科技随手观。 以后继续聊AI、手机和机器人。 不追热点，只看一件事：这些看起来很厉害的科技，到底什么时候真正走进我们的生活。
