ARTICLE · 1298832
买来的＂黑箱＂:当美国政府采购AI,却看不懂它买了什么
买来的＂黑箱＂:当美国政府采购AI,却看不懂它买了什么摘要：随着美国政府大规模采购私营部门AI系统，源代码和训练数据等核心信息受商业秘密保护而无法获取，政府陷入"黑箱"困境——买了最先进的决策引擎，却无法理解、测试或验证它的工作方式。本文基于相关研究素材，结合2026年最新政策动态，探讨政府如何在商业秘密保护与公共利益之间寻找平衡。 
一、政府买了什么，自己却不知道 过去，政府采购一套软件系统，意味着获得完整的技术文档、源代码和操作手册。但AI改变了这一切。当联邦机构采购AI系统用于预测性警务、福利裁决或供应链管理时，它们购买的往往是一个"黑箱决策引擎"——供应商以商业秘密为由，拒绝交出源代码和训练数据，政府只能看到输入和输出，却看不到中间的推理过程。 这种困境在2026年变得更加尖锐。据最新研究显示，美国联邦AI合同支出呈爆发式增长：已核定拨付资金从2024年的6.75亿美元跃升至72亿美元，增长966%；潜在合同总值从46亿美元飙升至918亿美元，增长1912%。其中近99%的支出集中于国防部，潜在合同价值达907亿美元。钱越花越多，但政府对自己购买的AI系统了解却越来越少。 政府作为采购方，有权获取和理解其采购的AI商业秘密，以实现有效监督和问责。这不是要剥夺企业的知识产权，而是要在商业秘密保护与公共利益之间建立新的平衡。 二、"探索自由"：打破黑箱的理论钥匙 文章借鉴了Edward Felten提出的"探索自由"（Freedom to Tinker）理念。这一理念原本用于保护技术用户对自有设备进行检视、修改的权利，如今被延伸到政府采购领域：政府购买的AI系统，理应有权"打开看看" 。 然而，现实中的障碍远比想象中复杂。商业秘密法律框架为AI供应商提供了强大的保护伞——根据美国《信息自由法》（FOIA）第4条例外条款，源代码和专有算法被归类为"商业秘密和商业或财务信息"，政府机构几乎无法强制要求供应商公开这些核心资产。 更棘手的是，传统的逆向工程路径在AI时代也走不通了。一方面，商业许可协议中普遍包含禁止逆向工程的条款；另一方面，现代深度学习模型的复杂性使得即便拿到权重文件，也难以理解其决策逻辑——AI的"黑箱"不仅是法律意义上的，更是技术意义上的 。 三、2026年：博弈进入新阶段 2026年的最新动态表明，美国政府与AI供应商之间的"透明度博弈"正在进入一个全新阶段。 其一，行政令的"自愿框架"暴露了政府的两难。 2026年6月2日，特朗普签署《促进先进人工智能创新与安全》行政令，建立了"受覆盖前沿模型"（covered frontier models）的机密评估机制。根据该机制，AI企业可自愿向联邦政府提供模型进行最长30天的安全测试，政府则对测试信息严格保密。表面上看，这是政府获取AI内部信息的一次突破；但行政令同时明确规定，不得被解释为授权设立强制性许可、预先审查或发布许可制度。政府想要"看得见"，却不敢"管得着"。 其二，Anthropic事件揭示了权力关系的微妙变化。 2026年初，Anthropic因拒绝接受允许"任何合法用途"的合同条款，坚持保留自主武器和国内大规模监控等使用限制，一度被五角大楼列为"供应链风险"。虽然后续法院对该指定发出禁令，但这一事件已经清楚表明：美国政府难以接受商业AI供应商在国家安全合同中保留独立的"红线" 。 其三，国会开始介入问责。 2026年3月，参议员华纳等人致信国防部，要求就AI公司与国防部的合作事宜作出解释，包括明确法律准则以确保AI模型不会对美国公民进行大规模国内监控，以及AI公司在何种情况下可以默许国防部非法使用其产品。这标志着立法机构开始关注AI采购中的"问责真空"。 四、逆向工程为何不再是答案 分析指出，传统的"获取源代码—逆向工程—验证逻辑"路径在AI时代面临三重困境： 法律困境：商业秘密保护条款和许可协议中的禁止逆向工程条款，构成了第一道屏障。即便政府通过FOIA提出请求，供应商也能以"商业秘密"为由拒绝，而法院通常倾向于保护企业的知识产权。 技术困境：现代AI系统的决策逻辑分散在数百万甚至数十亿个参数中，不存在传统软件中那种可读的"源代码"。即便政府拿到了模型权重，也无法像阅读传统代码那样理解其行为逻辑。 验证困境：AI系统的行为高度依赖训练数据的质量和分布。即便政府能够访问模型本身，如果无法审查训练数据，仍然无法判断系统是否存在偏见或漏洞。 五、破局之道：合同条款与法律变革 面对这些困境，原作者提出了两条可行的路径： 路径一：合同条款前置。 在采购合同中明确要求供应商提供可解释性日志、误报率审计报告和偏见测试指标等"程序性交付物"。这些要求不触及核心商业秘密，却能确保政府获得足够的监督信息。正如有研究者指出，FOIA请求的"甜蜜点"在于瞄准"机构的独立验证报告、偏见测试指标和人口影响评估"，而非"供应商的源代码和专有算法"。 路径二：法律变革。 推动立法赋予政府"自由探索权"，在特定国家安全场景下，允许政府机构获取AI系统的核心技术信息。这一路径面临巨大阻力，但2026年的政策动向显示，美国政府正在通过行政令、合同条款和供应链安全审查等多种手段，逐步收窄AI供应商的"独立红线"空间。 六、启示 对于正在推进"人工智能+"行动的中国而言，这一议题同样具有紧迫的现实意义。2026年，国务院印发《关于深入实施"人工智能+"行动的意见》，中央两部门印发《政务领域人工智能大模型部署应用指引》，政府采购领域正在大规模引入AI技术。 与此同时，上海已率先出台《上海市政府采购监管智能体应用管理办法（试行）》，明确智能体应用须遵循"算法透明、可解释性和可审计性"原则，严格保护国家秘密、商业秘密、个人隐私与监管秘密。黑龙江则建立了"大数据初筛+AI筛查"双引擎的智能监管体系，将AI筛查结果仅作为线索推送，必须经人工复核确认后方可认定。 实践表明，在政府采购AI的过程中，"算法透明"与"商业秘密保护"并非不可调和的矛盾。 关键在于建立分层分类的信息披露机制：核心商业秘密予以保护，但算法逻辑的可解释性、审计的可行性和问责的完整性必须得到保障。 结语 当政府大规模采购AI系统时，它购买的不仅是技术产品，更是一种决策权力。如果这种权力被锁在商业秘密的"黑箱"里，那么最终受损的将是公共利益本身。"探索自由"不是要剥夺企业的创新回报，而是要让政府在使用AI时，能够回答一个最基本的问题：这个系统为什么做出这样的决定？ 在AI日益嵌入国家治理的今天，这个问题不再只是技术问题或法律问题，而是关乎政府问责制根基的治理问题。 参考文献： 自由地探索商业秘密（译文） 清华大学战略与安全研究中心，CISS海外信息专报（2026年5月21-22日），2026年6月30日 复旦大学复旦发展研究院，姚旭、辛艳艳等：《从产业松绑到安全嵌入：特朗普签署AI国安备忘录》，2026年6月23日 复旦大学复旦发展研究院，姚旭、辛艳艳等：《"自愿"的边界：白宫最新人工智能行政令的政策折中与安全回摆》，2026年6月7日 新华网：《热点问答丨白宫为何召集美国人工智能企业开会》，2026年8月5日 中国政府采购报：《上海规范政采监管智能体应用》，2026年7月2日 上海市人民政府：《政府采购启用"监管智能体"》，2026年9月3日 中国政府采购网：《黑龙江：以智促治 以数护采》，2026年10月26日 中国政府采购网：《充分认识政府采购制度优化与人工智能+政务的融合趋向》，2026年6月2日 华纳参议员官方网站：《华纳带领同事们敦促国防部就人工智能公司与国防部的合作事宜作出解释》，2026年3月25日 Maryland Corruption：《Piercing the Black Box: How to Use FOIA to Investigate Federal AI Procurement》，2026年8月3日 Morgan Lewis：《AI Executive Order Promotes Innovation, Cybersecurity, and Public-Private Cooperation》，2026年6月4日
