反AI炒作生存指南

现在对 AI 最常见的两种态度，是神化它，或者看不起它。但这两种反应，其实来自同一个事实：大多数人并不知道它到底是怎么运作的。

这种信息差，让 AI 炒作者能讲好AI 将改变一切的故事。

所谓炒作者，不一定是骗子，但有几个共同特征：夸大能力边界、对局限性避而不谈、用你会被淘汰的焦虑推销产品。认出他们，是这份生存指南的第一步。

他们爱讲什么故事

以往的技术炒作，顶多在自己的圈子里折腾。这次不同，AI 炒作者宣称要颠覆所有行业。

以下试举两例，律师和医生。二者都是与人类文字、语言高度相关的职业，也是炒作者最爱提及的行业（除了程序员）。

律师。科技公司喜欢宣布系统通过了律师资格考试，制造ChatGPT 比律师还厉害的标题。

但在选择题里输出正确字符串，不意味着它就能获得从业资质，也很难说明它可以在真实情境里为需要帮助的人提供可靠判断。

医生。AI 病历系统听起来很美：自动语音转文字，节省写病历的时间。

但模型会产生幻觉，而医疗行业对幻觉的容忍度是零。真正负责任的医生，最后还是得逐字校对，反而加重了工作量。

床位稀缺、人手不足、医患矛盾这些真正的问题，AI 一个都解决不了。

识别出一个社会问题，不等于 AI 就是解决方案。更危险的是，一旦人们开始相信技术会自动修补这些裂缝，真正的改革往往就不会发生了。

故事背后的操作手法

这些故事并非随机生成。拆开来看，炒作者的惯用手法有两种：考试跑分和末日论。

1、「考试跑分」噱头

ChatGPT 发布仅四个月后，OpenAI 自己的研究人员发表了一份报告，标题叫「GPTs are GPTs」。^[1]

报告里的数字看起来很科学：80% 的美国工作岗位至少有 10% 的任务受到影响，19% 的劳动者超过一半的工作将被自动化。但这些数字怎么来的？评估依据只有两个来源：OpenAI 内部的其他研究人员，以及 GPT-4 本身。

也就是说，他们问 GPT-4，它觉得自己能不能把工人的饭碗抢走。

数据、图表、学术引用，给人一种这是客观事实的感觉。但很少有人会追问这个数据是怎么来的，谁来定义的，对谁有利。

2、「末日论」双簧

哲学家尼克·博斯特罗姆曾提出回形针最大化器的思想实验：一台被优化到极致、只会不停生产回形针的机器失控了，它会不择手段地实现目标，包括杀死全人类。

这个寓言被大量 AI 末日论者反复引用。2023 年，数百名研究者和科技名人联署声明^[2]，将AI 导致灭绝的风险与核战争、大流行病并列为全球优先事项。签署者里，有人正靠着开发和部署 AI 系统建立自己的职业生涯。

这多少有点违和：Tech bro们一边重金研发 AI，一边公开警告 AI 可能失控并威胁人类。

但很可能是，他们越强调 AI 危险，就越能证明自己的 AI 足够强大。谁最有资格谈AI 风险，谁就最有资格继续做 AI。

看穿这一点之后，剩下的问题就是：面对这套话术，我们能做什么？

拿回主动权

当有人向你推销一个革命性的 AI 系统时，不需要懂算法，只需要问这三个问题。^[3]

1、输入是什么，输出又是什么？

曾有研究人员声称仅凭一张人脸照片就能判断犯罪倾向。罪犯不是生理属性，而是行为、社会规范与法律制度交织的结果。这类系统往往只是把刻板印象重新包装成算法外衣。

2、它是怎么被评估的？

准确率高达 97%要打问号。声学枪声探测系统 ShotSpotter 在芝加哥和纽约的实际审计显示，87% 到 91% 的警报都是误报。问清评估标准，远比相信那个漂亮数字重要。

3、谁受益，谁承担风险？

企业和股东把自动化当降本工具，政府用它掩盖社会保障网的漏洞。

系统出错时，受伤的往往是最没资源发声的人，被算法错误标记为高风险而面临骨肉分离的贫困家庭，不会出现在产品发布会的 PPT 上。

问完这 3 个问题，再做 3 件日常小事。

1、改变叫法

把AI叫自动化；把AI 客服叫自动回复系统，把AI 写作助手叫自动补全程序。

名字一旦变回来，神秘感往往就消失了。

2、保留信息的「摩擦感」

炒作者希望你把聊天机器人当搜索引擎，因为一个流畅的答案，会让人停止追问来源与争议。

但筛选链接、对比矛盾的说法、搞清楚每个答案从哪里来，这些带阻力的过程，本身就是在建立你对信息整体的认识。

知道一件事有争议，知道争议来自哪里，比单纯知道答案是什么重要得多。

3、尽情嘲笑

朋友发了张六根手指的 AI 海报，某品牌用 AI 人物做了个尴尬广告，不用客气，笑出来。幽默最大的作用，是破坏某种虚假的神圣感。

结语

以上所讨论的，都建立在一个前提上：当前的 AI 发展存在一定泡沫，炒作者借着这个泡沫迷惑我们，从而谋取个人利益。

为此，他们甚至愿意自贬：我们不过是效率较低的计算机器，判断可以被替代，与世界的联结可以被模拟。

但这个泡沫有多大、会不会破，我们现在无法判断。正如技术评论家科里·多克托罗所说：

科技泡沫有两种，一种会留下些什么，另一种什么都不留下。有时候你很难判断自己身处哪一种，直到它破裂。

我们无法预判泡沫的走向，但至少可以做几件事：认出炒作者，问对问题，偶尔为那些荒唐之处发笑。