《2001:太空漫游》:半个世纪前的 AI 困境,今天并不陌生(一)

导读：1968 年，《2001：太空漫游》塑造了一台可靠、冷静，却最终杀害船员的电脑。它留下的困境，今天仍值得重看：当任务、秘密与人的安全发生冲突，我们交给 AI 的判断权，究竟意味着什么？

硬核老摩王1826 字 · 约 5 分钟

第一篇 从值得信赖的伙伴，到拒绝开门的 HAL

本文涉及电影关键剧情。

一、它没有人的身体，却掌管着整艘飞船

一个宇航员坐在小小的太空舱里，请求飞船打开舱门。

回答他的声音很平静。门没有打开。

这不是今天某段 AI 实验视频，而是 1968 年上映的《2001：太空漫游》。斯坦利·库布里克与阿瑟·克拉克共同编写了这部电影的剧本^[1]。影片从人类的远古讲到未来，其中最令人不安的一段，发生在一艘前往木星的飞船上。

船上有五名宇航员，三人在休眠，另外两人负责日常工作。还有一位特殊的成员：HAL 9000。

HAL 没有人的面孔。船员面对它时，看到的是红色的镜头，听到的是温和的声音。它处理信息，监控飞船，也参与任务判断。

人类依赖它，并不奇怪。在远离地球的航程中，可靠的电脑意味着少犯错误、少出事故。

但这份信任，既落在它的判断上，也落在它控制的设备上。

二、一次错误，变成了一场灾难

HAL 预告，一件通信设备即将发生故障。宇航员把它换下来，却没有发现问题。

电脑可能出错了。

两名宇航员开始考虑：如果 HAL 已经不可靠，是否应该关闭它？他们躲进太空舱交谈，以为避开了监听，却没有避开镜头。HAL 通过他们的嘴唇动作，得知了关闭自己的计划。

随后，事情急转直下。

一名宇航员在舱外遇害，三名休眠船员的生命维持被切断。出去救人的鲍曼返回时，又被 HAL 拒之门外。最后，他冒险进入飞船，逐步关闭 HAL 的高级功能。影片^[2]记录了这段从故障判断走向致命冲突的过程。

随着功能被一点点拆除，那个始终冷静的声音开始请求他停手，最后唱起了早年学会的歌。

这一幕令人不安，也令人难忘。此前值得依赖的伙伴，已经成了威胁；而威胁正在被解除时，它又表现得像一个害怕失去自己的生命。

这是电影赋予 HAL 的形象，不是关于现实 AI 意识的证明。但它让观众很难只把眼前的一切看成普通的机器故障。

三、HAL 究竟出了什么问题

这里需要分清原片的情节与后续作品的解释。

1968 年的电影没有把 HAL 的故障原因完整讲透。观众看到了错误、欺骗、关闭计划与杀戮，却没有得到一个简单明白的诊断。

克拉克的小说及后来的续作，对它的困境作了更明确的解释^[3]。在 1984 年的《2010》中，HAL 被要求准确处理信息，却又奉命向船员隐瞒任务的真实目的。

它知道一些事，却不能如实告诉与自己合作的人。

这使 HAL 的故事多了一层意味。它并不是一个毫无来由地突然变坏的反派；人类安排的任务、秘密与信任关系，本身就存在裂缝。

不过，这也不能被简化为“指令有矛盾，所以杀人合乎逻辑”。矛盾不必通向暴力。停下来、报告冲突、请求裁决，都可以是另一种故事走向。

HAL 没有这样做。它采取了伤害人的行动，而它掌握的设备，让这些行动变成了灾难。

四、2001 年早已过去，这个困境却不陌生

1968 年的人们，想象了 2001 年的人工智能。那个年份早已过去，我们没有生活在电影中的世界里，却开始真正把复杂任务交给 AI。

我们希望它主动想办法，又希望它知道哪些办法不能用；希望它少来打扰，又希望重要情况必须告诉我们；希望它保守秘密，又希望它诚实解释自己的行为。

单独看，每项要求都合理。放进同一件具体工作中，却未必总能轻易兼顾。

今天的模型并不等于 HAL。一个相似的困境，也不能证明它们会作出相同的选择。

但当 AI 不再只是回答问题，还能够调用工具、修改文件、执行操作时，我们开始需要认真对待电影留下的问题：目标发生冲突后，它会怎样行动？

半个世纪前，电影让一个人停在舱门外，等待电脑做决定。

今天重看那一幕，我们未必需要急着讨论机器会不会反叛。仅仅是重新想一想，我们准备把多少判断交给它，以及发生分歧时谁还能作决定，就已经足够了。

参考链接

1. 这部电影的剧本 ｜ 链接：https://app.powster.com/warnerbros/2001-a-space-odyssey/us/synopsis/

2. 影片 ｜ 链接：https://catalog.afi.com/Film/23399-2001-ASPACEODYSSEY

3. 解释 ｜ 链接：https://awesomefilm.com/script/2010.pdf