AI最大缺陷，它很难像人一样“纠结”

AI最大的缺陷，不是不够聪明，而是它很难像人一样“纠结”。

最近开始读《哈萨比斯：谷歌AI之脑》，如果只看到AlphaGo、AlphaFold和长期主义，仍然没有触及这本书最值得讨论的部分。它真正逼着我们重新回答：智能究竟是把一个目标做到最优，还是在复杂、矛盾甚至没有标准答案的现实里，依然知道下一步怎样走？今天的AI非常擅长单目标任务。只要目标足够明确，它可以不断计算怎样赢下一盘棋、怎样预测蛋白质结构、怎样降低成本、怎样提高点击率。但真实世界很少只有一个目标。

一个销售可能不满公司的考核方式，却仍然把客户服务好；一个管理者既想提高业绩，又不希望团队被压垮；一个人既知道父母需要陪伴，又必须赚钱维持家庭。人会迟疑、纠结甚至痛苦，但工作和生活仍然可以继续推进。这不是低效，而是人类智能的重要组成部分：我们能同时容纳彼此冲突的目标、情绪、责任和价值判断。

多数AI则需要相对明确的目标函数，目标越清楚，它越高效；真正危险的问题是，谁来决定什么值得被优化？如果只给销售AI设置提高成交率，它可能不断催单、制造稀缺感、优先服务容易成交的人。

数据也许更漂亮，客户信任、品牌口碑和长期复购却可能同时下降。如果只要求客服AI降低响应时间，它可以快速生成大量看起来正确的回复，却未必真正解决客户的问题。AI会忠实执行目标，却不会天然替企业审查目标。系统越高效，目标设计错误时，造成的损失反而越大。因此，效率不等于智能，局部最优也不等于整体正确。

人真正难以被替代的地方，不只是有创意、会共情，而是能够理解一件事背后的多重关系：客户嘴上问价格，心里可能担心风险；员工没有完成任务，可能不是能力不足，而是不认同目标；一个短期不赚钱的服务动作，可能正在积累长期信任。人的价值还在于追问：这个目标是谁设定的，被忽略的代价是什么，谁在承担结果，即使效率降低，这件事是否依然值得做？这些不是纯粹的计算问题，而是责任问题。

成熟的人机协作应该分成三层：AI负责计算、生成和执行；人负责解释矛盾、调整目标和承担责任；组织负责建立边界、纠错机制和价值排序。企业引入AI之前，最先要审查的不是工具，而是自己的KPI。因为AI不会自动让企业更有智慧，只会让原来的目标被执行得更加彻底。

AI提高优化能力，人决定什么值得优化；工具提高下限，问题、判断和责任共同决定上限。
#AI图书#好书推荐#人工智能# #哈萨比斯谷歌AI之脑