AI预审批的愚蠢

原作者：Samwel Okoth

翻译+编辑：AI 梁洋睿

欧盟最近出台了《人工智能法案》。这个法案有个硬性规定，开发者在发布很多人工智能模型之前，必须先拿到政府的“通行证”。现在，世界上很多地方都在效仿这种发放牌照和“预先审批”的制度。

支持者觉得，这样管一管，AI会变得更安全。但现实情况真的如此吗？

其实，这种强制性的预先审批，在认知逻辑上是根本行不通的。它不仅会扼杀创业者的探索精神，还会阻碍真正的创新和安全知识的积累。更糟糕的是，它会变成大企业的保护伞。

这可不是什么微不足道的行政麻烦。如果你懂一点经济学，就会发现，这是一个教科书级别的经典案例。它完美印证了经济学家F.A.哈耶克在很久以前提出的核心洞见。

为什么管不住？哈耶克的“知识问题”

哈耶克曾指出，要让经济合理运转，所需的知识并不是集中在某一个人脑子里的。这就是著名的知识问题。这些知识分散在数以百万计的普通人手中。它们是高度本地化的，往往只能意会不可言传，而且还在时刻发生着变化。

因此，没有任何一个中央机构能够把这些知识全部收集起来，并做出完美的处理。当我们把这个理论套用在人工智能上时，问题就变得特别严重了。

为什么这么说呢？因为监管机构如果想提前审批，就必须预测AI系统的行为。但是，AI面对的输入信息，包含了人类无穷无尽的对话和互动。这是一个呈几何级数爆炸的庞大数据集。

假设一个AI模型被广泛应用在医院、学校或者工厂里。它必然会遇到各种独特的本地数据，碰上不同人的主观判断，甚至接收到完全无法预料的指令。

没有任何一套监管测试，能够模拟出医生为了救人而临时改造诊断工具的创造力。监管也无法预测，那些喜欢找茬的用户会用什么新奇的招数，去绕过安全过滤器。说实话，就连开发AI的程序员自己，也无法完全预料到这些结果。

AI最重要的能力和最大的风险，都是在“涌现”中产生的。也就是说，只有在真实世界的实际使用中，它们才会显现出来。

预先审批制度却强迫监管者在AI问世之前，就拉出一张固定的“可预见风险”清单。这张清单注定是不完整的。最终的结果就是，监管的判断被死死冻结在了过去，而AI系统却在每一次全新的互动中不断进化。

扼杀活力：看不见的生命代价

经济学家赫苏斯·韦尔塔·德索托曾区分过两种效率。一种是静态效率，也就是怎么把现有的已知资源重新分配。另一种是动态效率，指的是市场不断发现新目标、新手段和全新知识的能力。

这种动态效率是无法被计划出来的，也无法用官僚体制来管理。而AI预先审批，恰恰采用了一种僵化的静态模式。监管者只会列出一张高风险能力清单，要求开发者对照着测试。只要没盖上官方的合格印章，所有创新一律不准发布。

这笔账其实很吓人。根据欧盟委员会自己的影响评估，针对高风险AI系统，平均的合规评估成本高达几十万欧元。而且，产品进入市场的时间会被硬生生拖延好几个月。

对于一个研发医疗工具的小型科研团队来说，这笔钱可能比他们一整年的预算还要多。比如，他们想用AI从临床病历中检测抗生素耐药性。要知道，细菌菌株的变异和传染病的传播，是以“周”为单位在演变的，根本等不了那么久。

最终，这个创新的机会被扼杀了。不是因为它造成了什么具体的伤害，仅仅是因为监管部门那张死板的表格上，找不到适合这个实用发明的选项。

让我们算一笔关于生命的账。假设在肯尼亚基苏木的一个乡村诊所里，有一位医生正在与时间赛跑。当地耐抗生素的伤寒病菌，进化的速度比药厂研发新药的速度还要快。

与此同时，印度班加罗尔的一个研究团队，刚好开发出了一个非常有潜力的AI预警原型。但是，由于这个模型使用了通用架构，碰巧撞在了欧盟的监管规则上。

对于这种主要服务于贫困地区、商业利润微薄的工具，研究人员根本承担不起昂贵的合规成本。于是，这个模型永远被锁在了抽屉里。那位肯尼亚的医生，永远没有收到救命的早期预警。

一个孩子可能死于感染，而如果AI能够公开部署并在真实世界中学习，这场悲剧本可避免。在这个故事里，我们能看到的，是一份盖满公章、合乎规范的文件。而我们看不见的代价，是一条鲜活的生命。

自由的底线：无需许可的创新

要求AI开发者在发布代码前必须寻求官方许可，这背后的逻辑是非常霸道的。它等同于默认，一个中央机构有权提前决定，哪些和平的、自愿的行为才是被允许的。

如果把这个原则推演到底，它要么会导致无穷无尽的审批流程，要么会造就一个不用对任何人负责的终极权力机构。在经济学看来，“假定自由”绝不是众多价值中可以随便拿来与“安全”做交易的一个筹码。它是唯一能够防止社会走向专断的根本原则。

有人可能会反驳说，万一AI带来毁灭性的灾难呢？哪怕只有极小的概率，不也应该提前防范吗？但这种“灾难性风险”的说法，依然逃不出前面提到的知识问题。

想要提前防范危险的能力，监管者首先得知道危险长什么样。然而，对危险的识别，恰恰依赖于无数人在开放实验中产生的去中心化知识。

AI未来的行为，是由数以百万计的用户在各种尚未想到的场景中共同决定的。基于一些无法验证的预测，就对AI采取强硬的限制，这根本不叫谨慎。这在本质上，是用法律的名义将无知制度化。

事实证明，AI预先审批制度并不能带来真正的安全。它们带来的是未知的、沉重的人类代价。这些代价之所以看不见，是因为伤害发生在官僚系统的“禁止发布”环节，而不是发生在大家都能看到的“系统崩溃”上。

自由，要求我们必须拥有“无需事先许可”的创新权利。发放牌照的制度不仅颠倒了这一常识，还让监管者陷入了他们原本信誓旦旦想要消除的无知之中。

干预的旋涡：大企业的护城河

经济学大师路德维希·冯·米塞斯曾向我们揭示过一个规律。那就是政府的干预，极少会停留在第一步。

干预会扰乱市场，制造出新的扭曲现象。而这些新问题，反过来又给监管机构提供了进一步加强控制的“完美借口”。AI领域的审批发牌制度，正在精准地重演这个干预的旋涡。

最开始，监管部门可能会设定一个算力门槛或者风险等级。很快，聪明的创业者就会找到规则的漏洞来绕开它。监管者看到后怎么办呢？他们会本能地降低门槛，或者扩大管控的范围。

这意味着，合规成本会越来越高。这种高昂的成本，会系统性地偏袒那些财大气粗的老牌大企业，因为只有它们才能轻松买单。

一旦这些大企业在监管的庇护下免受竞争威胁，它们就会产生强烈的动机。它们会去游说政府出台更严苛的规则，用极高的门槛，把下一代初创公司死死挡在门外。打着“安全”旗号开始的监管措施，最终异化成了一道坚不可摧的监管护城河，仅仅为了保护既得利益者的垄断地位。

安全悖论：越审批，越危险

其实，这里面还有一个更深层的矛盾。预先审批制度，恰恰拖延了真正积累安全知识的过程。

如果我们去翻看现有的AI事故数据库，就会发现一个残酷的事实。绝大多数有害的AI行为，只有在系统被真正投入使用后才会暴露出来。哪怕是在最高级、最复杂的封闭测试环境里，也无法完美复刻人类所有的创造力、恶意以及形形色色的期望偏差。

我们可以参考一下网络安全领域的经验。长久以来，正是开放和充满竞争的部署环境，极大地加快了安全升级的步伐。

在这个领域，独立的白帽黑客会去主动发现漏洞。然后，他们会在恶意攻击者大规模利用之前，与开发者合作打上补丁。相反，如果是一个封闭的、必须获批才能进入的环境，那些安全漏洞只会一直隐藏在暗处，永远得不到修复。

同样的逻辑，完全适用于人工智能。真实世界里的互动，是一座挖不完的安全信息金矿，绝不仅仅是需要被管控的风险。

通过强迫开发者在产品上线前填写海量的文书并获取认证，预先审批制度实际上是在用一份死气沉沉的官僚档案，取代了生机勃勃的一线实战。这种做法，不仅换不来真正的安全，反而扼杀了AI进步的无限可能。

💡 说明

本文译自奥地利学派（奥派）相关的自由主义网站。若您有兴趣阅读原文，请点击左下角“阅读原文”链接。

若文章对您有所启发，或您认同其观点，敬请点赞、转发、送爱心，尤其是打赏支持。感谢！