AI不是万能钥匙,警惕“AI迷信” | 智能涌见

褚荣伟：AI对社会企业的影响，很难笼统的用“颠覆”一词去描述。和AI对商业实体的影响类似，AI像是个“放大器”。一个社会企业如果已经找到了小范围有效的解决方案，已经验证过某种服务方式是成立的，那么AI可以帮助它提高效率，同时降低成本和扩大覆盖，让原本依赖人力和经验的部分更容易被模式化、可复制和迅速迭代。但如果前端的问题没有想清楚，服务流程也没有跑通，就把AI当成万能钥匙，最后大概率只是热闹一场，而实际效果有限。

现在大家都在谈AI，好像不用就会落后，但比起焦虑地使用AI，过早地迷信AI才真正值得警惕。AI不能替你定义问题，最多只是让你更快地得到一个答案。社会企业面对的问题，除了效率，更是信任、文化与责任。这些“慢变量”，决定了社会企业对待AI，保持热情的同时，也要保持克制。技术本身当然重要，但它无法替代组织思考，也不能像人一样传递温度，并做出价值判断。只有当社会企业定义清楚了什么是值得做的事，AI的作用才会在组织流程中慢慢显现。

褚荣伟：社会企业本身就处在社会价值与市场逻辑的交叉地带，既要回应社会问题，又要保证组织能够长期运转，这本身就是一件很难的事。

因此，面对任何新的技术变革，社会企业都更需要保持初心，聚焦在解决的问题本身。很多社会问题表面上看起来都很明确，比如教育、养老、环保、心理健康、乡村发展，但如果继续往下深挖，就会发现这些都只是现象，而不是真正被定义清楚的问题。社会企业如果一开始没有把问题界定好，没有找到真正的因果链条，就很容易把资源投向表层，把技术用到错误的地方。商业领域的问题边界是相对清晰的，反馈也更快。但社会问题往往是多重因素交织在一起，影响路径更长，结果也更复杂。所以我一直强调，先定义问题，再谈解决方案，先理解机制，再谈工具使用。

比如在没有AI工具之前，如果我们要帮助低中收入国家的工人找到更好的工作和帮助中小企业成长时，传统的解决方法可以就是开展知识培训（“下乡”），或者传统的授课方式来提高他们的技能，但现在可以给工人配备AI工具。一个中国电商平台的实验研究显示：当向新卖家提供由AI根据实时销售数据选取的个性化培训材料时，这些卖家的销售额高于未接受培训的对照组。

褚荣伟：如果从实际落地来看，AI的价值大致可以分为两个层面。第一个层面，是帮助社会企业本身提效，比如资料整理、信息归纳、数据分析等，以及研究辅助、基础内容生成。这些工作会消耗很多时间和精力，对于原本就人手有限、资源紧张的社会企业来说，AI如果能先把这些重复性工作接住，组织就能把更多精力投入到真正需要人的判断与行动的事物中。

第二个层面，是AI深入到服务本身，比如更精准地识别需求，提供更个性化的支持，追踪项目效果，优化服务流程等。社会企业过去常常有很强的使命感，但在经营和标准化方面相对薄弱，AI能协助把那些可以被结构化、被复制的部分做得更稳定，从而让组织更有机会实现长期运营和规模化发展。

褚荣伟：我觉得最大的挑战，恰恰来自大家对技术的高预期。社会企业一旦大规模使用AI，数据安全、隐私保护、公平性、责任边界这些问题都会变得更加突出。社会企业服务的对象，往往本身就处在相对脆弱的位置，很多信息都具有很强的敏感性。组织希望通过更多数据、更智能的系统提高服务效率。但与此同时，数据越充分，潜在风险也越高，这里面天然存在张力。

更需谨慎对待的是，技术上的合规不一定等于伦理上的合理。很多时候，制度和规则都是在问题出现之后才逐步补上的，但社会企业不能等问题出现了再讨论责任。谁来做最终判断？谁来对AI的输出结果负责？谁来监测异常情况并及时干预？这些问题都不能含糊。AI进入社会企业后，组织的责任其实更重了。同时，一般社会企业没有组织机制和能力来管控AI的负面影响，因为这其实也需要更多的资源投入——这种叠加效应是社会企业在开始应用之前就要想清楚的。AI不是万能的，它可能放大既有差距，而非弥合差距。

褚荣伟：社会企业真正的可持续，从来都不是简单地把一项新技术“贴”到原有业务上。AI当然可以成为推动可持续发展的重要工具，但前提是，组织已经把问题定义清楚了，把服务路径跑通了，把经验沉淀成流程了，把流程转化成组织能力了。只有在这个基础上，AI才可能真正发挥放大作用。社会企业面对的是文化、观念、结构、信任这些慢变量，它们不可能因为技术进步就被瞬间解决。所以，AI更适合作为一种后方的支持性力量，让组织和人站在前面进行价值判断和承担社会责任，再用技术帮助社会企业走得更稳、更远。

当AI不断刷新效率边界，如何理解技术，如何使用技术，如何在创新与责任之间找到平衡，已成为社会企业绕不开的新课题。AI不会自动带来社会价值，它真正能发挥作用的前提，是组织对问题有清晰认知，对服务有扎实理解，对责任有足够自觉。AI陪伴型产品的发展趋势往往走向了反面——它们会一味迎合用户的偏好与情绪，却从不督促用户主动与他人建立联结，最终消解了人们学习社交技能的必要性。一台能让孩子感受到“被理解”的机器，或许能带来慰藉，却无法教会孩子如何去理解他人。倘若我们一定要设计AI陪伴产品，那就该让它们成为社会学习的桥梁，而非终点。

社会企业作为特殊的企业形态，需要以解决社会问题为核心，也正因如此，社会企业在拥抱AI时，更需要回到初心：不是因为技术流行而去使用它，而是因为技术能帮助我们更稳健、更持续地回应真实的社会问题。

褚荣伟：灵活用工群体本身就是技术与市场共同塑造的产物，所以AI对他们的影响可能不只是工具层面的，更重要的是重写了整个劳动结构。我觉得面向这个群体，AI可以是放大器，但不是均衡器。它的影响体现在三个层面：第一、能力层面，会用AI的人获益更多，不会用的人差距拉大，这与“技能偏向型技术变革”的逻辑一致。的确有不少研究证明AI工具带来的收益，对技能较低或经验较少的工人更大；第二、管理层面，算法控制在骑手、司机群体中早已存在，AI只会让它更精细、更隐性——劳动者感觉更自由，实则被更深地嵌入看不见的规则系统之中；第三、发展路径层面，这是我最关注的：AI究竟是压缩了低技能岗位的上升空间，还是帮助个体积累能力？两种路径目前同时存在，差别不在技术本身，而在制度设计与使用方式。

所以真正的问题不是“AI会不会影响这些群体”，而是我们是否有意愿去设计一种使用AI的方式，让它改善的不只是效率，还有这些人的能力结构与发展机会。灵活用工者面临的核心困境从来不只是收入不高，而是不确定性高、保障缺失、向上流动路径模糊。AI能缓解这些问题，也能放大它们——取决于我们的选择。在Amartya Sen的“发展即自由”框架中，一个人的发展，不只是取决于他拥有什么资源，而在于他是否拥有将这些资源转化为实际能力的机会。也就是说，关键不只是“有没有工具”，而是“能不能用这些工具去成为他想成为的人”。

因此，社会企业如果只是用AI去提高效率，比如更快地匹配工作、更精准地分配任务，那可能只是改善了“当前状态”。但如果能够进一步思考：如何通过AI帮助这些群体积累能力、拓展选择、打开新的发展路径，那么它才真正触及了“发展”的问题。而这，可能也是我们评价AI在社会企业中作用的一个更根本的标准。