夜雨聆风为了保护企业利润，企业领导者必须投资于强大的 AI 治理，以安全地管理 AI 基础设施。
在评估企业软件采用情况时，一个反复出现的模式决定了技术在各行业的成熟过程。正如IBM高级副总裁兼首席商务官罗伯·托马斯最近概述的那样，软件通常会从独立产品发展成为平台，然后再从平台发展成为基础架构，从而彻底改变其运行规则。
在产品开发的初期阶段，严格的公司控制往往给人以极大的优势。封闭的开发环境能够快速迭代，并严格把控最终用户体验。它们将财务价值集中于单一公司实体内部，这种方法在产品开发的早期阶段能够有效运作。
然而，IBM 的分析强调，当一项技术固化为基础层时，人们的预期会发生彻底改变。一旦其他制度框架、外部市场和广泛的运营系统依赖于该软件，现有的标准就必须适应新的现实。在基础设施层面，拥抱开放性不再仅仅是一种意识形态立场，而成为一种高度务实的必然选择。
人工智能目前正跨越企业架构堆栈中的这一门槛。模型正日益直接地嵌入到组织保护网络安全、编写源代码、执行自动化决策和创造商业价值的方式中。人工智能不再仅仅是实验性工具，而是更多地成为核心运营基础设施。
Anthropic公司近期对其Claude Mythos模型进行了有限预览，这使得企业高管在风险管理方面更加清晰地认识到这一现实。Anthropic公司表示，该模型能够发现并利用软件漏洞，其水平堪比少数人类专家。
为了应对这种力量，Anthropic公司启动了“玻璃之翼”项目，这是一项旨在首先将这些先进功能直接交付给网络防御者的封闭式计划。从IBM的角度来看，这一发展迫使技术人员直面迫在眉睫的结构性漏洞。托马斯指出，如果自主模型具备编写漏洞利用程序并塑造整体安全环境的能力，那么将这些系统的理解集中在少数几家技术供应商手中，将会带来严重的运营风险。
IBM认为，随着模型达到基础设施级别，主要问题不再仅仅是这些机器学习应用能够执行哪些操作，而是这些系统的构建、管理、检查以及在长期内持续改进的方式。
随着底层框架的复杂性和企业重要性不断提升，维护封闭的开发流程变得极其困难。没有任何一家供应商能够成功预见所有运营需求、对抗性攻击途径或系统故障模式。
实施不透明的人工智能架构会给现有网络架构带来巨大的阻力。将封闭的专有模型与已建立的企业级向量数据库或高度敏感的内部数据湖连接起来，常常会造成大规模的故障排除瓶颈。当出现异常输出或幻觉率激增时，团队缺乏必要的内部可见性来诊断错误究竟源于检索增强的生成流程还是基础模型权重。
将传统的本地架构与高度封闭的云模型集成，也会给日常运营带来严重的延迟。当企业数据治理协议严格禁止将敏感的客户信息发送到外部服务器时，技术团队只能在处理数据集之前尝试对其进行脱敏和匿名化处理。这种持续的数据清理工作会造成巨大的运营阻力。
此外，持续调用锁定模型带来的计算成本飙升，侵蚀了这些自主系统本应提升的利润率。这种不透明性使得网络工程师无法准确规划硬件部署规模，迫使企业签订昂贵的超额配置协议以维持基本功能。
为什么开源人工智能对运营韧性至关重要
限制对功能强大的应用程序的访问是一种可以理解的人类本能，与谨慎非常相似。然而，正如托马斯所指出的，在大规模基础设施中，安全性的提升通常更多地依赖于严格的外部审查，而不是严密的隐藏。
这体现了开源软件开发的持久价值。开源代码并不能消除企业风险。相反，IBM 认为它能积极地改变企业管理风险的方式。开放的基础架构允许更广泛的研究人员、企业开发人员和安全防御人员审查架构、发现潜在弱点、测试基础假设，并在真实环境下强化软件。
在网络安全运营中，广泛的可见性很少会阻碍运营韧性。事实上，可见性通常是实现这种韧性的必要前提。当更多人能够质疑、审查其逻辑并为其持续改进做出贡献时，那些被认为至关重要的技术往往能保持更高的安全性。
托马斯指出了关于开源技术的一个由来已久的误解：即开源技术必然会导致企业创新商品化。在实际应用中，开放的基础设施通常会将市场竞争推向技术栈的更高层级。开放系统转移的是经济价值，而不是破坏它。
随着通用数字基础架构的日趋成熟，商业价值逐渐转移到复杂的实施、系统编排、持续可靠性、信任机制以及特定领域的专业知识上。IBM 的观点是，长期的商业赢家并非那些拥有基础技术层的企业，而是那些懂得如何最有效地应用这些技术的组织。
我们已经见证了这种模式在以往几代企业工具、云基础设施和操作系统中反复上演。开放的基础架构历来都能扩大开发者的参与度，加速迭代改进，并催生出基于这些基础架构的全新、更大的市场。企业领导者越来越意识到开源对于基础设施现代化和新兴人工智能能力的重要性。IBM 预测，人工智能极有可能遵循这一历史轨迹。
放眼整个供应商生态系统，领先的超大规模数据中心运营商正在调整其业务策略以适应这一现实。与其陷入单纯的军备竞赛，竞相构建规模最大的专有黑盒，高利润的集成商正大力发展编排工具，使企业能够根据特定的工作负载需求替换底层开源模型。IBM 在该领域持续保持领先地位，并成为今年北美人工智能与大数据博览会的主要赞助商，而这些不断发展的开放式企业基础设施战略将是本次博览会的重点议题。
这种方法完全规避了供应商锁定带来的限制，使企业能够将要求不高的内部查询路由到规模更小、效率更高的开放模型，从而将昂贵的计算资源用于复杂的面向客户的自主逻辑。通过将应用层与特定的基础模型解耦，技术人员可以保持运营的灵活性并保障企业的盈利。
企业人工智能的未来需要透明的治理
另一个支持开放模式的务实理由围绕着产品开发的影响。IBM 强调，对底层代码的访问权限受限，自然会导致运营视角狭隘。相反，谁能直接参与，就能决定最终构建什么样的应用程序。
提供广泛的访问权限，使政府、各类机构、初创企业和不同领域的研究人员能够积极影响技术的发展方向及其商业应用领域。这种包容性的方法既能推动功能性创新，又能同时构建结构适应性和必要的公众认可度。
正如托马斯所论证的，一旦自主人工智能成为企业核心基础设施的一部分，依赖不透明性就不能再作为系统安全的组织原则。最可靠的安全软件蓝图是将开放的基础架构与广泛的外部审查、积极的代码维护和严格的内部治理相结合。
随着人工智能永久进入基础设施阶段，IBM认为，同样的逻辑也越来越适用于基础模型本身。企业对某项技术的依赖程度越高，就越有理由要求其开放性。
如果这些自主工作流程真的成为全球商业的基础，那么透明度就不再是可有可无的讨论话题。IBM 认为，透明度是任何现代企业架构绝对不可或缺的设计要求。
