15 采购 AI 很美好,但这些＂暗礁＂可能让你翻船

本文根据《Agentic AI for Procurement：Concepts, Applications and Implications》一书进行总结，本文是第15章内容，因原文内容较多，笔者做适当的精简和改编。原书为全英文版，尚无中文版本，如翻译或理解有误，敬请谅解！

在采购领域人工智能所面临的挑战

采购 AI 很美好，但这些"暗礁"可能让你翻船

技术看上去很美，但真正决定成败的，往往是水面之下看不见的东西。

AI 在采购里能跑得比人快、算得比人准，从筛选供应商到谈判、从应付账款到风险管理，似乎哪里都能插一脚。前几章已经讲了不少它的本事：允许供应商自行选择的系统、复杂的谈判算法，这些进展都很耀眼（Raheem & Smith，2025；Sapkota 等人，2025）。

然而，在这层技术进步的表象背后，却藏着一批实实在在的困难，它们可能阻碍人们为环境和社会的利益合理使用这些系统。

采购 AI 的问题从来不只是技术问题——它关乎权力如何分配、问责如何落地、公平如何保障。

人工智能集成被普遍视为经济技术发展的关键点（Murugesan & Zhang，2025）。分析表明，它代表着一次重大变革，将推动企业从简单的自动化，迈向智能化、有目的性的智能系统（Bandi 等，2025）。这种变革无法仅通过在现有系统中添加人工智能来实现——它需要战略上的决心，推动设计现代化：从传统 ERP 系统的僵化结构中解脱出来，转向由微服务和事件驱动架构构成的灵活、模块化框架（Bellemare，2025）。

01 技术很美，但采购 AI 的问题从来不只是技术

这种转变带来的好处显而易见：更精准的财务信息、自动化的应付账款处理，以及更强大、能自我优化的供应链网络（Singireddy，2025）。这些应用本身固然令人瞩目，但它们也是更大系统变革的一部分——它们促使人们对人类角色进行根本性重新思考，把操作人员从繁重的任务中解放出来，让他们专注于战略规划、创新工作，以及那些真正需要人类判断的重要异常情况。

要成为智能型组织，必须克服重重障碍。Miehling 认为，这可以通过投资高质量数据、加强相关领域的培训来实现；Mukherjee 和 Lee（2025）则进一步指出，还要打造坚实的数据基础、战略性地管理变革，并承担起 AAI 治理的责任。运营人员要确保每种解决方案都遵循公平和透明的原则。通过投资高质量数据和相关培训，组织能够构建出值得信赖、可靠且可扩展的、由 AAI 驱动的系统。

AAI 的采购问题并非仅仅是技术层面的问题，无法通过简单的技术调整来解决。它牵出一连串重要的议题：自主系统应如何被用于经济决策？人类与 AAI 之间应如何分配权力？复杂的组织在追求更高效率的同时，又该如何保持问责制与道德性？

本章正是围绕这些关键挑战展开的（Nikolenko，2021），并提出一项研究议程：既考虑当前的实施难题，也着眼于 AAI 全面融入采购过程后对社会的长期影响。这些挑战本质上是多学科性的，需要传统学术领域之间的合作，也需要理论研究与实际应用的有机结合。

02 偏见：算法里的"隐形歧视"

天平从来不是自己歪的——歪的是喂给它的数据，和写下规则的人。

采购系统中最严重的问题之一，就是它们受到算法偏见的影响（Bandi 等人，2025）。这些偏见产生的影响远远超出单个组织的范畴，会波及组织内部的公平性、市场竞争乃至社会正义。做对决策并不容易，因为这些决策直接关系到供应商的成败、就业机会以及地区经济。

近期对使用人工智能的组织的研究表明，系统性偏见普遍存在：现有供应商比新竞争者更受青睐，大型组织比小型组织更有优势，来自富裕国家的供应商又比发展中国家的供应商更受重视。

最典型的例子是亚马逊。它的供应商筛选算法经过精心设计和测试，却仍然对少数族裔企业存在明显偏见——根据能力指标推算，这些企业的选中率比预期低了 23%（Singh & Nurse，2025）。这不仅仅是简单的统计学差异，背后还涉及训练数据、算法架构以及评分标准中那些不太明显的偏见来源。历史数据会反映出过去的偏见与歧视模式，进而形成反馈循环：一个看似公平的系统，实则持续存在不公。

一个看似公平的系统，如果它学到的是过去的偏见，那它只会把不公平做得更高效。

当采购领域的 AI 系统从供应商的历史绩效数据中学习时，会无意中强化少数族裔供应商所面临的系统性劣势——比如资金不足、人脉匮乏或对行业了解有限。对沃尔玛采购 AI 系统的研究也发现了类似问题：多种偏见因素相互作用，进一步加剧了某些供应商群体的劣势（Dzreke & Dzreke，2025）。规模较小、位于农村地区的供应商被选中的可能性更低——一方面，他们的数字基础设施较差，影响了绩效指标；另一方面，他们缺乏关于自身过往表现的充分数据，因此受到"惩罚"；而规模较大、实力较强的供应商则不存在这种问题。

有没有技术手段来减少偏见？有几种方法被提出（Derouiche 等人，2025）：在处理数据前对其进行校正、在算法中加入公平性约束条件，以及在处理完数据后调整结果。但这些方法都存在诸多问题，也说明进一步深入研究和开发的必要性。

IBM 的采购应用公平性工具包，展示了当前消除偏差策略的运作方式及其局限（Sharma 等人，2025）。该技术教会人工智能模型利用减少偏差的方法做出明智的采购决策，同时确保这些决策无法准确推断采购方的年龄、性别或所在地等信息。初步测试结果不错：所有受保护群体的偏差减少了 40%，且并未影响采购流程的效率。但在实施过程中问题出现了——偏差消除策略并不符合组织的实际需求：系统难以区分歧视性偏差与正常的商业偏好；有时，为了平衡人口结构，系统甚至会推荐资质较差的供应商。这一矛盾引发了对采购中"公平"与"效率"之间关系的深层思考。

微软的偏差减少方法则另辟蹊径：在创建采用参与式机器学习技术的算法时，会考虑广大人群的意见（Morabito，2025）。采购专家、供应商代表和伦理专家共同协作，确定何为公平、何为不公，并评估特定目标的利弊。实践表明，这种方法能制定出更贴合实际情况的偏差减少策略。不过，要让所有人都参与进来并达成一致，需要投入大量精力和资金。

除了技术手段，还需要法律框架的支撑。制定一套能监管采购中算法公平性的法律框架十分困难，因为它必须与现有的反歧视法律、竞争限制措施以及公共部门的公开规则相协调（Mukherjee & Lee，2025）。这类法律框架与算法决策机制并不天然兼容，导致合规要求和执行方式上的不确定性。

欧盟提议的《人工智能监管条例》为公共采购中高风险人工智能工具的使用制定了相关规则（Kilian et al.，2025），包括检测算法偏差的技术、监督相关流程的策略以及算法影响评估方法。不过，关于如何具体实施的信息很少，各机构无法确定遵守规则的实际标准，也不清楚可容忍的偏差程度究竟是多少。在美国，情况更加复杂——存在联邦、州和地方不同的监管机构。《政府采购条例》（FAR）虽已修订、纳入了人工智能工具的相关内容（Lancieri et al.，2025），但它只管政府层面的采购规则，私营部门的采购活动通常仍不受约束。在多个领域开展业务的组织很难遵守所有这些限制，而无法应对复杂规则的供应商也可能因此失去业务机会。

律师和采购专家们正在共同努力，创建一个既能保障公平性又能确保运营效率的框架。美国律师协会的"采购中的人工智能工作组"提出了用于检测算法偏差并确保信息透明的标准准则（Doverspike et al.，2025），这或许将是制定更多相关规则的第一步。

03 黑箱：它做了决定，却给不出理由

箱子越漂亮，里面越看不透——而这恰恰是采购最不能接受的事。

采购领域人工智能系统的问题，源于系统本身的复杂性，与它对人类而言的可理解性之间存在固有矛盾。随着系统越来越多地使用深度神经网络、集成学习方法和多准则优化技术等复杂算法，人类及相关利益相关者越来越难以理解它们是如何做出决策的。

这种不透明性在采购过程中尤其令人担忧：内部利益相关者、外部审计师、供应商以及监管机构，通常都希望了解决策背后的原因。传统的采购决策虽然不一定每次都公平或最优，但至少能保障决策的透明度和合理性——而如果人工智能系统无法解释其决策理由，这些问责机制便无法发挥作用。

通用电气的采购系统，就是可解释性问题在现实中的典型体现（Khan，2025）。这个系统在挑选供应商和降低成本方面表现出色——在保持质量和服务标准的同时，成功将成本降低了 15%。但当未入选的供应商询问遴选原因时，系统只能给出统计上的相关性和特征评分，而这些理由在法律上并不具备说服力。

更严峻的是，人工智能系统的学习方式还在不断演变。系统会根据新出现的信息和理念持续调整自己的判断，而使用它们的人可能并未察觉到这些变化。随着时间的推移，算法会识别出数据中的新模式和关联，这可能会悄悄改变系统最初设定的、用于挑选供应商的标准。

好在，针对采购应用的可解释人工智能（XAI）研究正在推进，重点就是开发既能全面理解人工智能决策过程、又能保持系统性能与效率的方法（Gridach 等人，2025）。这些策略包括使用简单模型，以及分析、解释复杂"黑箱"系统的方法。LIME（局部可解释模型无关解释）和 SHAP（沙普利加性解释）方法已被改进以适用于采购领域，能提供局部解释（Salih 等人，2025）。

比如，基于 SHAP 的解释方法让摩根大通的采购专业人士能够确定，在挑选供应商时成本、质量指标、交付表现以及风险指标等变量的重要性程度（Nagineni，2025）。不过，这种解释方式在采购领域并不十分有效——因为采购决策是基于长期战略目标，以及众多因素之间的复杂相互关系做出的。局部解释往往说不清整体情况，或导致特定决策的模式；即便这些解释在技术上是正确的，也可能无法帮助缺乏技术常识的人理解背后的原因。

相比之下，反事实解释在采购应用中更有用：它能说明供应商特性的微小变化如何影响最终的选择结果。例如，那些未中标的供应商，如果能在保持相同成本和质量水平的前提下，把表现提升 5%，就有可能被选中参与类似的合同项目。这种策略既为供应商发展提供了宝贵信息，也保持了系统的开放性。

可解释性问题还不仅仅是形式上的要求，它同样涉及法律和合同层面，会影响供应商之间的关系、他们如何解决分歧以及如何遵守约定（Raheem & Smith，2025）。标准的采购合同通常会包含相关条款，要求各方必须解释其决策并提供反馈，但对于 AI 辅助采购系统而言，这些条款可能并不够用。由于诚信原则和程序公正等合同法原则的要求，相关机构可能需要仔细说明为何 AI 会做出特定的采购决策。这些义务究竟意味着什么尚不清晰——尤其是当"解释"的要求与保护算法机密性、维持竞争优势的愿望相冲突时。

AI 决策带来的挑战，也意味着争端解决机制必须做出相应调整。传统上依赖具备明确推理能力的人类决策者的方法，对无法彻底解释决策的 AI 系统可能并不适用。技术专家或许需要审查相关案例，并在替代性争端解决机制的框架下对算法进行测试。

04 没有统一标准，系统们各说各话

在采购领域，针对人工智能应用系统的明确指导方针尚不充分，这给它们相互协作、验证性能以及确保质量带来了困难（Miehling 等人，2025）。与电子数据交换（EDI）或企业资源规划（ERP）系统不同，人工智能应用系统在采购领域缺乏清晰的接口、数据格式或性能指标，这使得不同平台和团队之间的协作变得困难。

遗憾的是，在由众多使用不同人工智能应用系统的组织构成的复杂供应链中，目前仍没有标准化的方式来促进组织间的沟通与信息共享。以汽车供应链为例：它包括数百家二级供应商、几十家一级供应商以及数千家零部件制造商。即便各合作伙伴所使用的系统接口和数据格式互不兼容，它们仍可能各自采用自己的人工智能应用系统。

波音公司将人工智能应用系统与合作伙伴整合的经验，恰恰说明了缺乏标准化所带来的实际问题（Holmenes & Brandt，2025）。这家航空航天企业发现，其基于人工智能应用系统的供应商评估系统，无法高效处理来自不同人工智能平台生成的供应商绩效数据（Nicoletti & Appolloni，2025）——这意味着必须手动转换数据，拖慢了系统运行速度；而由于缺乏统一的绩效指标，直接比较不同人工智能应用系统得出的供应商评分也十分困难，导致该企业在采购决策上难以保持一致。

为了解决标准化问题，行业团体和标准化机构已开始携手合作，共同制定技术规范、数据格式和接口协议（Derouiche 等，2025）。不过，全球并非所有行业和地区都投入了同等程度的研发力度，因此存在标准走向不同方向而非趋于统一的风险。具体进展包括：

需要说明的是，与采购直接相关的规则并不多——大多数指导方针针对人工智能的通用应用，而非如何将其用于特定的采购需求。为采购中使用的 AI 应用创建认证框架也颇具挑战：必须检验它们的实际性能、确保符合伦理标准，同时还要对其进行持续监管（Murugesan & Zhang，2025）。考虑到众多利益相关方的需求，这些框架必须兼顾全面评估与可实施性。

05 信任：人机协作的正确打开方式

AI 越能干，越要搞清楚"什么时候听它的、什么时候质疑它"。

要在采购领域成功应用人工智能，培训项目必须涵盖人工智能技术技能以及新的专业技能（Jansen & Patel，2025）。传统上侧重于谈判技巧、供应商关系管理以及市场分析的采购培训，可能已不足以支撑人工智能的应用。

人机交互研究的目标，是开发能够建立恰当信任水平的系统——让人类在人工智能的能力范围内信任它，同时也能对超出其能力范围的行为提出质疑。要实现这一点，就必须深入了解人工智能的工作原理，以及人类建立信任的过程中可能存在哪些偏差。

在正确设计人机依赖关系方面，麻省理工学院计算机科学与人工智能实验室（CSAIL）开发了自适应交互协议：它会根据用户的知识水平以及做出决策时的情境，调整人工智能代理向用户展示信息的方式（Gridach 等人，2025）。这项技术通过为复杂的战略决策提供详细的分析支持、为日常运营决策提供更简单的思路，协助人们做出更好的决策。这种自适应方法会实时考虑用户的自信程度、决策的难度以及潜在影响的严重程度，来确定人工智能代理自主性与人类监督之间的最佳平衡。初步测试表明，采用自适应用户界面的系统能做出更优决策，同时提升用户的满意度和信心。

不过，要让自适应系统发挥作用，就必须了解每位用户的偏好、知识水平以及思维方式。对个性化的需求可能会使系统运作更加复杂、需要投入更多精力维护，这又可能抵消人机关系改善带来的潜在益处。

培训同样关键。英国皇家采购与供应学会（CIPS）制定了新的能力框架，其中包含应对人工智能所需的技能，比如理解算法、识别偏见以及观察人工智能系统的能力（Hua，2025）。但实用的培训项目仍寥寥无几，因为大多数机构希望使用相同的教学材料。学校必须升级采购课程，同时教授传统技能与人工智能应用技能。人工智能驱动的采购涉及多个领域，即便目前各院校之间缺乏协作或教学效果不佳，商学院、计算机科学系以及伦理课程项目组也必须携手合作。

06 经济影响：集中、就业与全球贸易

在采购中运用先进的 AAI 技术，可能会导致市场集中度进一步提高——因为那些有资金投资 AAI 兼容技术及数据基础设施的供应商会获得更多好处，大型供应商与小型供应商之间的技术差距可能进一步扩大，新企业更难进入市场。

关于 AAI 在采购中应用的经济学研究显示，可能存在网络效应：能够服务采用 AAI 技术客户的供应商会变得更优秀、更具吸引力，从而吸引其他采用 AAI 技术的买家。这种良性反馈循环可能会加速行业整合——AAI 带来的效率提升主要有利于大型供应商，而小型竞争者则难以满足技术需求。欧盟委员会关于数字平台市场的研究也提供了重要警示：拥有先进 AAI 技术的企业能够获得竞争对手难以复制的长期竞争优势，长此以往，可能导致竞争与创新水平下降。

不过，AAI 解决方案也有助于降低市场集中度：它能帮助评估供应商的能力，减少对既有关系和基于声誉的选择标准的依赖。如果自动化评估能够减少人们偏袒已知供应商的偏见，那么绩效指标更出色的小型供应商或许就能获得更多采购机会。

对劳动力市场的影响同样值得关注（Schneider，2025）。自动化采购流程的人工智能，让我们思考相关职业、所需技能以及就业机会会发生什么变化。这些影响不仅仅局限于就业岗位的直接丧失，还促使人们思考那些需要丰富专业知识支撑的专业服务工作的未来。麦肯锡全球研究院认为，目前已有的人工智能技术可以自动化处理大约 40% 的采购流程（Venkataarangam，2025）。与战略性关系管理和复杂问题解决任务相比，常规的事务性任务更有可能被自动化。需要注意的是，这些估算是基于"任务定义不会发生变化"这一假设——但如果人工智能改变了采购活动方式，这一假设可能并不成立。

关于人工智能在采购机构中应用的案例研究表明，它对就业的影响十分复杂，与简单自动化造成的影响截然不同（Li 等人，2025）。大多数机构不仅没有减少就业岗位，反而在改变相关岗位人员的职责。例如，采购专员如今更多地专注于战略性活动，而人工智能承担起了日常运营工作。通用电气在采购方式上的变革是这一趋势的典型例证（Batte，2025）：操作人员的数量保持不变，但他们的职责已转变为监控人工智能系统、管理供应商关系以及制定未来规划。这一转变需要大量的再培训，一些操作人员难以适应新的工作规范。

在全球贸易层面，在采购流程中使用人工智能可能产生重大影响——对于那些可能没有资金建设相关基础设施和能力的新兴国家供应商而言尤其如此。联合国贸易和发展会议（UNCTAD）认为，由人工智能驱动的采购流程可能会无意中偏向那些拥有更完善互联网基础设施的富裕国家供应商，这可能会影响与发展中国家供应商之间的贸易（Jimmy 等人，2025）。如果人工智能系统过于关注那些有利于现有供应链基础设施的效率指标，这种影响在组织中可能会更明显。

当然，人工智能解决方案也有望帮助新兴国家供应商融入全球采购网络：自动翻译和通信技术消除了过去阻碍合作伙伴协同工作的语言障碍；先进的匹配算法则能无论供应商身处何方、与谁合作，都为其找到合适的合作伙伴。不过，这种影响的具体程度尚不清楚——不同行业、产品类别和企业类型所受的影响可能大不相同。这种不确定性，使得密切监测 AAI 采购系统对全球供应链和经济的影响显得尤为重要。

07 数据隐私：一道绕不过的坎

供应商的隐私期望与政策，可能不允许先进的 AI 采购系统收集和分析各类数据。供应商可能不愿与这些平台共享敏感信息，例如财务数据、运营能力、战略目标和竞争情报。

欧盟的《通用数据保护条例》（GDPR）让采购领域的 AI 系统在处理供应商相关人员的个人数据方面面临困难——比如联系方式、绩效评估结果以及业务关系信息（Iders-Bankovs 等人，2025）。AI 系统可能需要的数据量，超出了合规法规的要求，例如数据最小化、用途限制和访问权限等方面的规定。

供应商之所以担心共享数据，不仅是因为法律法规的限制，更是为了保护重要的组织和战略信息。他们担心 AI 采购系统可能会在未来的讨论中，利用准确的运营数据来"对付"他们；或者通过数据泄露、系统接口，把这些数据泄露给竞争对手。

基于区块链的供应商数据管理方法，似乎有助于解决隐私问题——它能实现去中心化的控制和数据发布。不过，这些方法成本较高，其带来的性能优势可能并不值得为此付出相应代价。

跨国数据传输是另一大难题。由于采购流程遍布全球，除非人工智能代理以先进方式开发，否则它们很难处理来自不同地区、遵循不同数据保护标准的供应商数据（Kumar & Lee，2025）。如果跨境数据传输受到限制，人工智能代理可能无法正常运行；遵守多套法律也会使实施过程更困难、成本更高。欧盟与美国之间的数据保护框架，对于如何在两地之间传输数据几乎没有提供指导，其稳定性也难以确定。将数据转移到其他国家——比如供应商主要所在的亚太地区——同样颇具挑战。基于云的 AAI 采购系统必须遵循关于数据存储地点的严格规定，同时还要兼顾成本效益并确保系统平稳运行。为确保 AAI 符合当地的数据保护标准，多家机构设立了本地化的数据处理系统，但这反过来限制了 AAI 的功能。

08 未来：技术挑战与研究的方向

未来，采购领域的人工智能必须解决一系列技术挑战（Gridach 等，2025），这意味着计算机科学的多个领域仍需继续开展研究，包括机器学习、人机交互、软件工程以及网络安全。重点研究领域包括：改进偏差检测与缓解措施、完善针对复杂人工智能系统的解释技术，以及开发能够促进人机高效协作的自适应界面。

联邦学习领域的前沿研究有望在保护个人隐私数据的同时，使人工智能能够在不同群体和领域中更广泛地学习。人工智能可以从存储在不同位置的数据中学习，而无需将所有数据集中存放，这有助于确保人工智能系统能够相互协作。

对于采购应用而言，验证和确认人工智能系统的可靠性至关重要——因为错误的决策可能会对运营和预算产生深远影响。有必要寻找更完善的形式化方法来验证人工智能系统的有效性，找到测试复杂人工智能系统的更好手段，以及开发出能够发现系统漏洞的监测方法。同时，为采购领域应用的人工智能系统制定标准化的基准和评估框架，也同样重要。

写在最后

未来的采购办公室里，人和 AI 并肩而坐，各司其职，才是常态。

AAI 是一种能够自主规划并执行复杂多步骤任务的人工智能。这类智能体基于简单的模型，能够自主运作、相互交流并学习新知识（Derouiche 等人，2025）。从通用的智能体平台到专为深度探索而设计的专用智能体，相关技术取得了显著进步（Gridach 等人，2025）。AAI 正迅速从边缘现象，发展成为企业技术领域备受热议的改进方向之一（Murugesan & Zhang，2025）。

企业希望找到新的方法来自动化工作流程，并将任务分配给"虚拟操作员"，而不仅仅是与聊天机器人交互（Jansen & Patel，2025）。人工智能代理与以往的人工智能类型不同，它能够在现实世界中运作——通常借助数字工具，而不仅仅是生成输出结果。这些系统利用基础的人工智能代理模型，自主规划并执行多步骤任务。

举个例子：一种人工智能客户服务助手，可以回答有关产品的问题、接受订单，并通过连接企业的物流系统来处理退货事宜。一些企业已开始使用深度研究代理来创建工作流程，以便从互联网上搜集信息并生成报告（Schneider，2025）。越来越多的企业正在使用代理进行软件编程——这些代理能够根据用英文或其他自然语言输入的描述，来编写、测试和部署代码。

与以往的系统相比，人工智能代理在诸多方面更为出色：它们能够处理难以预测的任务，因为大型语言模型擅长对从未见过的事物做出恰当的反应——这意味着基于大型语言模型的代理，能够处理许多无法用规则轻易概括的任务；它们还能使用为特定用户量身定制的数字工具——过去，每个新的数字系统都需要独立的代码来发送或接收数据，而人工智能代理能够"读取"网页，并使用与人类相同的工具（包括网络浏览器）来填写表单；它们也能理解用自然语言写成的指令。人工智能代理可以像虚拟操作员一样提供指导，帮助人们更高效地完成工作。由于大型语言模型具备语言理解能力，这种设想是完全可行的——它们还能创建易于理解和定制的工作计划。根据配置的不同，运用大型语言模型的人工智能代理能够制定工作计划并相互交流，可以描述自己的工作内容，并以人类能够理解的方式获得关于工作计划的帮助。

鉴于人工智能代理的巨大潜力，多家机构正考虑"聘用"虚拟操作员来执行各种任务。2024 年，人们对 AI 智能体的兴趣尚未特别高涨（从新闻和搜索数据可见一斑），但其发展速度却超过了任何其他科技趋势（Reddit LLMDevs，2025）。AI 智能体相关专利的数量从较低基数迅猛增长，表明这一新兴领域正在快速发展并吸引更多投资。2024 年，相关资本支出增至 11 亿美元；与此同时，2023 年至 2024 年间，AI 智能体领域的职位发布数量激增了 985%（Smythos，2025）。这些数字表明，AAI 正在许多领域迅速且广泛地普及（Vitalflux，2025）。

AI 不是来替你做决定的，而是来陪你把决定做得更好——前提是，我们先把偏见、黑箱、标准和信任这些问题，一个一个解决掉。