我们是不是对AI预测太上头了?|Big Technology Podcast

当AI算法接管招聘、贷款甚至司法判决，当我们习惯用预测锁定每一个可能的风险，我们正在陷入一场危险的预测狂热——而这可能正在悄悄偷走我们对未来的掌控权。

本期《Big Technology Podcast》邀请牛津大学哲学家卡丽萨·韦利兹，结合她的新书《预言：预测、权力与未来之战——从古罗马神谕到人工智能》，拆解当下社会对预测的过度依赖问题。这期内容将帮你看清AI预测在招聘、司法、金融领域的公平性陷阱，分析生成式AI、预测市场的底层风险，还能拿到对抗预测狂热、夺回未来掌控权的具体思路。

我们正陷入一场“预测狂热”的集体陷阱

当下所有前沿AI，不管是传统机器学习还是生成式AI，核心都是预测。但我们大多默认了预测的合理性，从未系统性审视过预测本身的本质。

卡丽萨在节目中直言：“我们默认未来是一张可以被精准描摹的图纸，但实际上，人生、商业乃至社会的关键转折点，恰恰是不可预测的。”这句话戳破了普遍的认知误区：我们总以为能靠预测提前锁定结果，却忘了不确定性才是未来的常态。这种集体的预测狂热，本质上是在放弃主动塑造未来的可能，只想着躺平等“命运的剧本”。

算法预测正在制造系统性的公平危机

招聘算法：把“古怪偏好”变成筛选门槛

不少招聘算法会基于“古怪的简历特征”过滤求职者，比如偏好特定的社交账号风格，直接把内向但能力出众的候选人排除在外。自动化招聘流程还压缩了求职者主动沟通的空间，既错失了优质人才，还可能诱导求职者做出过度主动甚至越界的行为。

卡丽萨提到，这类算法还会制造自我实现的预言：一旦判定某人无法就业，他就会长期无法获得对应岗位，真实能力永远无法被验证，不公被彻底掩盖。算法的偏见会变成“既定事实”，让被过滤的人永远困在循环里。

贷款审批：拒贷的黑箱与自我实现预言

基于算法的贷款审批藏着致命漏洞：拒贷决定无法被申诉，因为算法给出的只是预测而非事实，银行无法向申请人指明具体的改进方向。相比传统的可验证标准，比如账户余额达标，能让申请人明确知道如何调整财务状况。

卡丽萨特别强调：即使算法经过偏见排查，它依然会制造自我实现的预言——拒贷会让申请人的财务状况恶化，反过来强化算法“准确”的假象。这是最容易被忽略的陷阱：算法的“准确”其实是自己造出来的，我们却把它当成了客观真理。

司法系统：把正义变成概率计算题

不少地区用预测算法评估犯罪风险，以此决定保释、假释的结果，把概率思维引入了本该坚守原则的司法体系——只要胜诉概率低于51%就能脱罪，这种逻辑彻底消解了司法的严肃性。算法的黑箱性让当事人无法申诉，带来了卡夫卡式的官僚体验，让公众对规则产生异化和魔幻感。当正义变成了概率计算，你还能相信司法的公平吗？

黑箱与不可验证：预测AI的致命缺陷

除了公平性问题，多数预测AI还存在致命缺陷：黑箱性与不可验证性。大多数预测算法无法解释自己的决策依据，用户根本不知道如何才能改变结果；同时我们也很难验证预测的准确性，因为缺乏反事实数据——无法对比真实结果和预测结果到底有多大差距。

卡丽萨举了谷歌早期用搜索数据预测流感的例子，最终项目失败，因为搜索症状的行为可能源于关心家人而非自身患病，模糊的行为关联无法支撑可靠的预测。这个经典案例告诉我们，靠行为关联做预测，本质上是在碰运气，而非科学判断。

她总结道：真正有价值的预测，必须建立在可验证的物理或环境数据之上，而不是基于模糊的行为关联。她还明确区分了有价值的预测和有害的预测：洪水预警、新冠废水监测的疫情趋势预测，基于可验证的物理数据，能直接挽救生命；但长期预测比如千年后的未来，可信度极低，本质上只是一种想象。

监控与预测共生：从算法到极权的捷径

预测系统的运行离不开大规模监控，二者已经形成了紧密的共生关系。英国是欧洲监控最密集的国家，但犯罪率却高于西班牙等低监控国家；国内的全面监控虽然带来了表面的安全，却牺牲了民主与隐私。大规模面部识别会剥夺抗议的匿名性，破坏公众参与民主活动的安全空间。

卡丽萨指出：“大规模监控本质上是在侵蚀民主的基石，它让公众失去了表达异议的安全保障，也让规则变得更加异化。”这句话点透了监控和预测的底层逻辑：我们为了“安全感”放弃隐私，最终却失去了最宝贵的自由。当监控成为预测的燃料，我们看似获得了更多安全感，实则正在失去表达自由和参与公共生活的勇气。

生成式AI的本质仍是预测，问题藏在“下一个词”里

不少人认为生成式AI是全新的技术突破，但卡丽萨在节目中明确指出，它的核心依然是预测模型——本质上是在预测“下一个词”。生成式AI的训练数据包含大量版权与个人信息，其设计目标是取悦用户而非追求真相，因此很容易生成哈里·法兰克福定义的“废话”——不在乎事实，只为迎合用户的预期。即使厂商通过工具调用，让模型接入计算器、参考外部文档，依然无法解决根本的逻辑错误，比如错误计算兔子繁殖后的数量，混淆草莓和豌豆中的字母数量。

你有没有过被AI生成的“常识错误”逗笑或气到的经历？

卡丽萨进一步强调：当前生成式AI的优化路径仍未脱离概率统计思维，它只会拟合过往的成功内容，根本无法复刻《宋飞正传》这类初期不被看好却重塑大众审美的创新。这也解释了为什么生成式AI总是会出现“常识性错误”——它只会模仿已有的数据，而非真正理解世界的运行逻辑。

预测市场不是群体智慧，而是权力的游戏

不少人推崇预测市场，认为它能利用群体智慧做出准确的预测，但卡丽萨对此提出了尖锐的批判。预测市场很容易被权力操控：政客可以通过押注自己，制造“必然当选”的舆论；此前伊朗袭击事件前，就有匿名账户提前下注获利，甚至有记者被胁迫修改报道以兑现赌注。预测市场还会制造自我实现的预言：如果市场普遍预测某一事件会发生，相关方就会升级行动，最终真的触发冲突。

卡丽萨总结道：预测市场本质上是一场零和博弈，它不创造任何社会价值，只会把生活游戏化，鼓励战术投票而非基于良知的选择。这句话彻底打破了“预测市场是群体智慧”的神话，它本质上只是一场被权力操控的金钱游戏。

对抗预测狂热：夺回未来的掌控权

节目最后，卡丽萨并没有陷入完全的悲观，反而给出了对抗预测狂热的具体思路。她认为，当下公众对未来的焦虑和过度依赖预测，恰恰忽略了不确定性的价值——不确定性意味着未来并非既定，我们可以主动干预，塑造属于自己的未来。

对抗悲观预测的方式有两种：一是回归现实世界，珍惜线下人际、自然环境等线下资源；二是用幽默作为武器，幽默能打破固化思维、挑战权力，而当前大语言模型根本无法生成真正的幽默，因为它们只会拟合平均数据，缺乏反常规的思考。

卡丽萨呼吁公众不要被动接受算法的预测，而是主动审视预测的本质，参与公共讨论来界定哪些预测可以被接受，避免走向过度依赖算法与监控的未来。

写在最后

这期播客适合所有关注AI伦理、数字隐私、职场公平以及未来社会走向的读者。它拆解了我们习以为常的预测逻辑，让我们重新思考科技与未来的关系。

觉得这期内容对你有启发，欢迎点赞、在看或转发给身边关注科技与未来的朋友。