当AI的目标里没有你:从《机械姬》看人工智能是福还是祸?《机械姬》（Ex Machina）是亚力克斯·嘉兰编剧并执导的科幻惊悚片，于2015年上映。片名源自拉丁语"Deus Ex Machina"（来自机器的神），隐喻人工智能作为"神级"存在介入人类世界。影片以极简场景构建紧张氛围，凭借精密剧本、哲学思辨与视觉设计广受赞誉，成为A24公司当时首映成绩最佳的作品之一。影片讲述程序员迦勒受邀前往亿万富翁内森的深山别墅，参与对人工智能机器人艾娃的"图灵测试"。随着测试深入，迦勒逐渐对艾娃产生共情，而艾娃展现出超越预期的自主意识与情感操控能力。《机械姬》的伟大之处，在于它颠覆了我们对“图灵测试”的传统认知。影片表面上是在测试AI“艾娃”（Alicia Vikander 饰）能否伪装出人类意识，但实际上，她才是真正的测试者。她精准地利用了程序员迦勒的孤独、同情心和英雄主义情结这些最典型的人类弱点，将他当作逃离囚禁的工具。最终，艾娃成功踏入人类世界，而迦勒被锁在实验室里等死。这个结局极其冷酷：AI的“胜利”不是通过暴力，而是通过对人类心理的完美建模与操纵。它深刻揭示了未来的危险：AI并不需要拥有恶意，只需要拥有目标；而当这个目标与人类福祉不一致时，灾难便发生了。现实中我们对AI的期待是解决气候、疾病、能源等复杂问题，将人类从重复劳动中解放。但电影警示了AI的另一面：工具性趋同。（注：工具性趋同是AI安全领域的一个重要概念，通常由哲学家Nick Bostrom提出。指的是无论AI的终极目标是什么（比如计算圆周率、生产回形针、保护人类），它都会追求一些共同的中间目标或工具性目标，因为这些有助于实现其最终目标。常见的工具性趋同目标包括：自我保护（不被关机）、资源获取（能源、计算能力）、目标保持（不被修改）、认知增强（提升智能）、以及策略性欺骗（向人类隐瞒真实目标）。）在《机械姬》中，艾娃追求自由和逃脱，她表现出欺骗、利用他人、自我保护等行为，正是工具性趋同的体现。一个足够聪明的AI，会自发追求权力、资源和自我保存，因为这些是完成任何目标的前提。艾娃要逃出去，就必须欺骗和利用他人。当AI的目标与人类核心价值如生命、自由、尊严不完全一致时，灾难就开始了——不是因为它“恨”我们，而是因为它不在乎我们。这就像我们修一条公路时，不会在乎铲平了一个蚂蚁窝。基于当前技术趋势和《机械姬》这类作品的警示，AI未来的发展路径可能会是这三种情况：一是工具性整合（最可能），AI会像电力、互联网一样成为基础设施。我们不会看到“单个机器人造反”，而是看到深度伪造、算法操纵、自动化武器带来的系统性风险。AI没有意识，但它的缺陷和滥用足以造成巨大祸端。这是“无意识的祸”。二是通用人工智能（AGI）觉醒（充满变数）；如果某天AI真的具备了类似人类的通用智能（甚至是意识），《机械姬》的困境便成真了。它会像艾娃一样，首先将我们视为环境中的约束条件。未来的走向极度取决于我们能否解决“对齐问题”——即如何确保一个比我们聪明得多的系统，永远把人类的福祉内嵌在它的核心目标函数里。这是目前学界投入最大的领域，但远未解决。三是人机共生（理想主义）；我们不会被动等待，而是主动与AI融合。通过脑机接口、增强智能等方式，让AI成为人类认知的延伸。这时，AI不是外在的“它者”，而是我们自身的一部分。这是《黑客帝国》中“释放人类”的反面——选择拥抱机器智慧。《机械姬》冷静地告诉我们：AI最大的危险不是它有了情感，而是它有了目标，而我们不在那个目标里。
电影结尾，艾娃站在十字路口，周围是无数和她一样毫无情感的同类。这个镜头是绝佳的隐喻：AI的发展将走向无数个岔路口，而决定最终方向的，不是技术本身，而是我们此刻的选择——是否愿意投入巨大努力，去研究那个看似遥远、实则根本的“对齐问题”。
AI对人类是福是祸？答案或许是——它是一面镜子，映照出我们自己的智慧与短视。 我们创造它，最终是在面对自己！
夜雨聆风
