AI 什么都知道, 就是不知道＂我不知道＂

  AI 什么都知道，就是不知道"我不知道"

  原创 · 人工智能 · 约 1200 字 · 阅读约 4 分钟

  前阵子，外甥女教我用那个叫 AI 的东西。她说，你有什么不懂的，直接问它就行，比翻字典还快。

  我头一个问题问得很实在：我们老家那条老街，到底叫什么来着？我记混了，想确认一下。

  它想都没想，就给了我一个名字。还说这条街是哪年修的，街口有棵什么树，当年做买卖的多热闹。

  我一看，愣住了。有鼻子有眼，比我自己记得还清楚。

  后来我打电话问我姐。我姐在电话那头说：哪有这么条街？你记错了。

  那一刻我才回过味来——它不是知道，它是敢说。

  一它不查，它接话

  这些 AI 是怎么干活的？它不是去翻书、翻档案，一条一条核对。它是把人类写过的海量文字都读了一遍，学会了"哪些词常常跟哪些词挨在一起"。你一提问，它就顺着往下猜：下一个最可能出现的词是什么，再下一个又是什么。

  所以它说出来的话，读着特别顺，逻辑也像那么回事。

  可顺，不等于真。

  有句话说得挺准：它不是懂，它只是说得很像懂。

  而且它那个语气，永远是笃定的。不说"大概"，不说"可能"，也不打磕巴。你越是外行，越容易被这股笃定给镇住。

  二连律师都被它绕进去了

  这不是我瞎担心。2023 年，美国纽约有个律师，用 AI 帮他写诉状，里头引了 6 个判例。法官一查——6 个全是编的，法院里根本没这号案子。最后律师和律所被罚了 5000 美元。

  吃法律这碗饭的人，都被绕进去了。何况咱们。

  法官在判词里说了句实在话：用新工具不丢人，可保证材料是真的，这个责任还在人身上。

  三它越没见过的，越敢说

  常见的事，它读得多，答得八九不离十。可冷门的事——你老家的一条小街，你们厂当年的老厂长叫什么，一个偏门的小地方——它脑子里压根没有。

  可它不会停下来跟你说一句"这个我不知道"。

  它会顺着话头，给你编一个。

  这就像从前考试，有的学生一道题不会，也不肯空着，硬着头皮把格子写满。你不会觉得他懂了，你只会觉得他敢写。

  AI 就是这样，那张卷子，从来不空着。

  有研究算过，它生成答案时出错的机会，至少是它判断对错时出错机会的两倍。这话听着绕，说白了就是：它"想"的时候还知道犹豫，一开口，就不知道犹豫了。

  我们这代人，是信"白纸黑字"过来的。报纸上印的，书上写的，广播里念的，那都是有出处的东西，印错了还得登个更正。

  可现在这些字，是从屏幕里直接冒出来的。没有编者，没有校对，也没人给它签字。

  四它不是坏，是嘴比脑子快

  当然，也不能把它说得一无是处。

  前阵子社区发了个通知，字儿小、句子长，我看了两遍没看明白。丢给它，它三两句就给我捋清楚了，还分了条。这事儿，它办得漂亮。

  它查资料、翻成白话、理个清单、算个账，确实好用。前提是别把它当"权威"，得当"帮手"。现在有些 AI 也学乖了，回答之前先去查一遍真东西，好比把闭卷考试改成开卷，错得就少多了。

  这世上，说话最顺的人，不一定最靠得住。真靠得住的人，反倒常把这几个字挂在嘴边："这个我不太懂""我得回去问问""你让我再核一遍"。

  听着不漂亮，可踏实。

  AI 学不会这几句。不是它笨，是它被造出来，就是要"接着往下说"的。

    往 后 用 它 ，我 揣 着 三 条

      重要的数字、地址、电话、办事政策，一定再查一遍，别听它一面之词；

      多问一句"你确定吗？出处是哪儿？"——它要是绕来绕去，你就心里有数了；

      把它写的东西当草稿，别当结论。草稿可以改，结论要担责任。

  我把这一遭跟外甥女说了。她笑：那你还用不用？

  我说，用啊。刀能切菜，也会切手。知道它哪一块不牢靠，才敢放心使。

  你呢？你问过 AI 什么？它答上来了没有？

  在下面说一句，也让老伙计们都试试。要是有谁被它"编"过一回，更得讲出来，让大伙儿都留个心眼。

  — 完 —本文为原创内容；文中案例引自公开报道，图片由 AI 生成