过去两年,生成式AI以前所未有的速度进入企业。从大模型、知识库问答,到智能客服、研发助手、运维助手,再到能够调用工具、连接系统、自动执行任务的AI Agent,AI正在从技术试点走向业务生产。
但当AI真正进入企业核心流程后,新的问题也随之出现:企业面临的挑战,已经不再是“要不要做AI”、“能不能跑模型”,而是如何让AI稳定、低成本、可管理、可扩展地运行起来,并与现有IT架构和业务系统深度融合。
近日,在算力大咖秀--“软硬协同 生态共生,解锁企业AI规模化落地新范式”线上研讨会中,联想中国基础设施业务群服务器事业部软件专家张伟、红帽软件生态合作伙伴事业部首席解决方案架构师赵锡漪、英特尔数据中心解决方案架构师顾小宝,分别从基础设施、平台软件和底层算力三个角度,拆解了企业AI规模化落地的关键路径。

01
企业AI的卡点,正在从“买算力”转向“算投入产出”
在AI应用早期,很多企业的第一反应是采购GPU、建设集群、部署模型。但联想中国基础设施业务群服务器事业部软件专家张伟指出,
随着AI开始进入真实业务,CIO、CTO更关注的是AI能否真正融入业务流程,基础设施投资是否带来实际回报,以及AI系统是否会增加新的运维压力。

圆桌嘉宾:联想中国基础设施业务群服务器事业部软件专家 张伟
这意味着,企业AI建设正在从“粗放式投入”走向“精细化运营”。过去企业关注模型参数、算力规模和硬件配置,今天则回归到关注TCO、ROI、资源利用率、运维复杂度,以及AI对业务增值的实际效果。
对于已经拥有服务器、存储、虚拟化平台和业务系统的企业来说,AI建设也不一定意味着推倒重来。部分存量资源在小规模AI场景中仍可复用,但面对新的模型推理、知识库问答、Agent运行、边缘识别等需求,企业仍需结合具体业务场景进行评估。换句话说,企业不应简单追求最高配置,而应选择最适合业务目标的基础设施组合。
02
Token经济学,正在成为企业AI的新成本账
在圆桌对话中,红帽软件生态合作伙伴事业部首席解决方案架构师赵锡漪从另一个角度解释了为何AI时代企业需要重新理解成本问题。企业不仅要看Token本身的价格,还要看模型选择、推理效率、机房能耗、运维人力、业务改造成本,以及生成内容如何转化为业务价值。

圆桌嘉宾:红帽软件生态合作伙伴事业部首席解决方案架构师 赵锡漪
如果企业把业务深度绑定在某一个模型上,而模型迭代速度很快,几个月后原有模型可能就不再具备优势,那么围绕模型建设的系统、流程和应用适配是否还能持续发挥价值?这也是AI应用区别于传统企业应用的重要变化。赵锡漪建议企业可以从以下4个角度审视自己AI建设的动机与目标:
1、AI Token的成本应该怎么算?
2、为什么要做到模型无依赖?
3、Token如何才能成为高价值内容?
4、AI内容如何与传统应用架构对接?
因此,企业不能只把AI理解为调用模型或购买Token。真正的企业级AI应用,需要先用更经济的方式生产和使用Token,再通过RAG、知识库、约束机制、推理框架等能力,让Token生成有价值的内容,最后再让这些内容进入业务流程,驱动企业应用产生实际价值。
这也是为什么AI平台不能只是模型服务平台,而要成为连接底层资源、模型服务、应用开发和业务系统的统一底座。企业需要知道每个环节消耗多少Token、产生多少成本、带来多少收益,并通过可视化和调度能力,让AI从“能用”走向“可管”。
03
AI Ready基础设施,不是把AI放进孤立系统
作为多年从事企业级IT工作的资深专家,嘉宾们在对谈中特别提到:企业级AI不可能长期作为一个独立试点存在。赵锡漪认为,AI必须与传统IT技术体系融合在一起。企业既要承接原有虚拟机和传统应用,也要支持容器、微服务、AI推理、RAG、Agent和MLOps等新型工作负载。
而这也正是Red Hat OpenShift的重要价值。OpenShift不只是容器平台,也可以通过OpenShift Virtualization承载虚拟机工作负载,并通过OpenShift AI支撑AI应用运行。对于企业来说,把虚拟机、容器和AI工作负载放到统一平台上管理,意味着资源调度、安全隔离、生命周期管理和运维体系都可以更加统一。
企业AI落地的现实场景,往往不是从零开始,而是在已有IT架构上引入AI。因此,AI Ready基础设施的核心,不是简单新增一批AI服务器,而是让企业基础设施具备同时承载“过去的虚拟机、现在的容器应用、未来的AI应用”的能力。
04
CPU 在企业AI中的价值正在被重新认识
谈到AI,很多人第一反应是GPU。英特尔数据中心解决方案架构师顾小宝表示,
并不是所有AI推理场景都必须依赖GPU,尤其在企业真实场景中,CPU仍然承担着非常关键的角色。

圆桌嘉宾:英特尔数据中心解决方案架构师 顾小宝
他提出了一个很有启发性的观点:AI在某种意义上像一个新的数据库。传统数据库处理确定性数据,而AI处理的是更加复杂、更加不确定的数据体系。在模型推理过程中,预填充、解码、KV Cache管理、任务调度、数据传输、上下文复用等环节,都需要CPU参与。
在Agent场景中,这一点更加明显。Agent不只是回答问题,还要拆解任务、调用工具、连接系统、执行流程,其中大量工作并不是单纯的矩阵计算,而是通用计算、调度和系统管理。CPU并不是GPU的简单替代品,而是在企业AI系统中承担新的基础性角色。
随着Intel Xeon 6处理器在AMX高级矩阵扩展、更高核心密度和更高内存带宽等方面能力的增强,CP在中小模型推理、知识库问答、部门级助手、边缘识别等场景中的价值正在提升。对于一些不需要极致实时响应、但非常关注成本和部署灵活性的企业应用,CPU推理可以成为更经济、更易管理的选择。
05
联想、Red Hat、Intel协同,推动AI从试点走向生产
本次圆桌的核心,并不是讨论某一项单点技术,而是探讨如何把芯片、服务器、存储、平台软件、推理框架和交付服务整合成真正可落地的方案。
张伟介绍,联想与Red Hat已有长期合作基础。在新的AI场景下,联想基于ThinkSystem V4服务器,结合Intel Xeon 6的算力能力,并搭载Red Hat OpenShift平台,形成面向虚拟化现代化与AI就绪基础设施的一体化方案。
在通算层面,企业可以通过OpenShift Virtualization承载和整合原有虚拟化业务,降低传统虚拟化环境的成本压力。在智算层面,ThinkSystem V4、Xeon 6、OpenShift AI、vLLM等能力结合,可以支撑企业知识库、智能客服、智能助手、轻量级推理、边缘智能等AI应用。
这套方案的价值,不是简单的“硬件+软件”组合,而是经过工程化验证的一体化交付。联想负责将服务器、存储、管理工具、Red Hat平台和Intel底层算力优化整合起来,帮助企业降低技术选型、系统集成和生产上线的风险。
对于不同规模企业,该方案也具备灵活扩展能力。企业可以根据自身业务规模,从较小规模集群起步,再逐步扩展到更大节点规模。借助统一平台能力,企业能够在同一套基础设施上承载传统业务、云原生应用和AI工作负载。
06
企业AI的下一阶段,拼的是体系能力
企业AI建设正在进入新的阶段。过去,企业关注的是模型够不够大、算力够不够强;现在,企业更关注AI能不能真正跑起来、用起来、管起来,并以可控成本规模化普及。这背后需要的不只是芯片,不只是服务器,也不只是平台软件,而是一套从底层算力、硬件基础设施、操作系统、云原生平台、推理框架、安全治理到交付服务的完整体系。

联想、Red Hat与Intel的协同,正是这一趋势的体现:联想提供基础设施与工程化交付能力,Red Hat提供开放、统一、安全的平台底座,Intel提供底层算力与AI推理优化能力。三方共同构建的,不只是一个AI就绪平台,更是一个能够承接传统业务、支撑当前AI应用,并面向未来持续演进的基础设施体系。
对于企业而言,AI规模化落地没有一个万能答案。真正有效的路径,是在具体业务场景中选择合适的算力、平台、架构和生态伙伴。只有当AI能够稳定部署、持续优化、安全运行,并真正进入业务闭环,它才算完成了从技术热潮到产业价值的关键一跃。

联系我们
红帽销售及技术支持热线:
86 (10) 62608130
400-890-2100
夜雨聆风