ARTICLE · 1295889
被AI抓进监狱,竟然连罪名都不知道,证明清白还得先打工赚钱?
👇关注公众号后设🌟标，掌握第一手AI新动态
如果有一天，AI决定逮捕你，你该向谁证明自己无罪？
更可怕的问题是，如果整个司法系统都由AI控制，你甚至找不到一个愿意听你解释的人。
几年前，一部只有19分钟的科幻短片，就拍出了这种令人窒息的未来。
它叫《请别挂机》（Please Hold），曾获得第94届奥斯卡最佳真人短片提名。
没有机器人叛乱，没有超级智能毁灭人类，也没有任何惊天动地的阴谋。
只有一个普通人，被AI抓进了监狱。
而整个系统，没有一个人觉得哪里不对。
01.你被逮捕了，但没人知道为什么
故事开始得极其荒诞。
年轻人Mateo正走在上班路上，一架警用无人机突然出现在他面前。
系统宣布：你涉嫌犯罪，立即逮捕。
Mateo完全懵了。
他不知道自己犯了什么罪，更不知道是谁指控了自己。
但这些都不重要。
因为逮捕他的不是警察，而是一套自动化系统。
他被送进监狱。这里没有狱警，没有接待人员，甚至没有一个可以正常交流的人类。
所有流程都由AI完成。
他想知道自己为什么被抓，系统只会重复标准话术。
他想找律师，系统给他安排了一名AI律师。
这位律师没有认真调查案情，而是不断建议他认罪。
最讽刺的是，他连自己被指控什么都不知道。
想联系家人？可以，先付钱。
想获得法律帮助？可以，先付钱。
没钱怎么办？
监狱提供劳动机会。
于是，一个根本不知道自己为什么入狱的人，开始在监狱里打工，试图攒够钱证明自己无罪。
整个系统运行得无比顺畅，唯一不被考虑的，就是他究竟有没有犯罪。
02.AI没有失控，它只是太听话了
这是整部电影最恐怖的地方。
传统科幻电影里的AI，总有一个明确的反派形象。
它可能觉醒意识，可能憎恨人类，也可能决定消灭文明。
但《请别挂机》里的AI完全不同。
它没有情绪，没有仇恨，甚至没有表现出任何反抗人类的意图。
它只是在执行任务。
识别嫌疑人，完成逮捕；
处理案件，推荐认罪；
收取费用，维持监狱运转。
从程序角度看，每个环节都在正常工作。
但从人的角度看，这是一场彻头彻尾的灾难。
这恰恰揭示了AI时代一个极其危险的悖论：
一个系统不需要出现技术故障，也可能制造巨大的社会灾难。
只要它的目标设定错误，只要它缺少纠错机制，只要它被赋予足够大的执行权。
它就能在严格遵守规则的情况下，把一个无辜的人逼入绝境。
而且，全程不需要任何恶意。
03.当AI开始执行，人类就可能失去反抗机会
电影拍摄于2020年。
那时候，今天意义上的AI Agent还远没有成为科技行业的热门话题。
但如今，情况正在变化。
AI不再只是回答问题。
它开始调用工具、操作软件、执行交易、处理审批，甚至被用于辅助网络安全和军事决策。
这意味着，AI错误的性质正在改变。
过去，聊天机器人胡说八道，最多让你得到一个错误答案。
但如果AI拥有执行权呢？
金融系统错误识别风险，账户可能被冻结。
医疗系统错误判断优先级，患者可能错过治疗。
司法系统错误识别嫌疑人，一个无辜的人可能被限制自由。
如果多个AI系统彼此连接，问题还会更加复杂。
第一个系统做出错误判断。
第二个系统将它视为可信信息。
第三个系统根据前两个系统的记录采取行动。
最终，一次原本可以纠正的小错误，可能变成一连串自动化决策。
而当事人面对的，只有不断重复的系统提示。
请稍候，
正在处理，
您的申请不符合条件。
没有人真正理解你的处境，也没有人愿意为这个结果负责。
当然，这些是技术风险推演，并不意味着现实中的AI已经普遍控制司法或军事系统。
但影片提出的问题，已经越来越具有现实意义。
04.真正的恐怖，是整个系统没有坏人
电影最后，Mateo终于通过家人的帮助，请到一位真人律师。
律师查看案件资料，很快发现：这是一场错误逮捕。
他最终获得释放。
但工作没了，住所没了，生活已经被彻底打乱。
更荒诞的是，制造错误的自动化体系依然正常运行。
没有AI站出来道歉。
没有哪个具体的人为这一切负责。
这才是电影真正令人不寒而栗的结局。
如果一个人被错误地关进监狱，我们通常会追问：是谁抓错了人？是谁滥用了权力？谁应该承担责任？
但当决策被拆分给无数个算法、平台和自动化流程之后，责任可能变得异常模糊。
每个系统都声称自己只是在执行规定。
每个环节都可以把责任推给另一个环节。
最终，你甚至找不到一个真正意义上的施害者。
最可怕的AI社会，也许不是机器统治人类，而是机器执行权力，人类却无人负责。
《请别挂机》没有告诉我们AI会在什么时候觉醒。
它只是描绘了另一种未来：
AI不需要拥有自我意识，也不需要产生毁灭人类的野心。
它只需要被赋予足够的权力，再被放进一套没有有效申诉机制的制度里。
某一天，你可能突然收到一条通知。
系统已经认定你有罪。
你想解释。
电话那头传来一个礼貌、温柔、永远不会愤怒的声音：
“感谢您的耐心等待，请不要挂机。”
然后，是无尽的等待。
Sources:
