【AI入门系列】:算力原来是这么连起来的

上期聊完云、边、端，后台很多朋友问：“‘云’到底长什么样？数据中心的服务器怎么连起来形成算力？”

说白了，数据中心就是装满服务器的大楼（规模大的是几栋楼），专门提供算力和存储，咱们想象下画面就好记：

空间堪比足球场，密密麻麻摆着几万、几十万台服务器；

服务器是高大的柜子，排成一排排，柜内塞满“刀片式”服务器；

制冷系统24小时吹冷风，不间断电源（UPS）保障停电不宕机。

这就是数据中心的真实模样，一切都为了稳定供力。

全球大的数据中心多在美国、爱尔兰、新加坡；国内则集中在贵州、内蒙古（气候凉、电价低）和北上广周边，能大幅节省成本。

先聊内部：几万台服务器怎么“互通”？

服务器光堆着没用，得靠网络交换机互通数据。早期普通以太网交换机够用，但大模型来了，数据量暴涨就扛不住了。

英伟达针对性发明了两个“高速神器”：NVLink和InfiniBand：

NVLink：服务器内部高速通道，让GPU和CPU快速传数据；

InfiniBand：数据中心内部高速网络，带宽最高400Gbps，比普通以太网快几十倍。

简单类比：普通以太网是城市公路，InfiniBand是高铁专线，大模型训练靠它实现几万台GPU高效协同。

再聊外部：跨城市数据中心怎么连？

刚才咱们说的是数据中心内部的连接，那问题来了，不同城市、不同地区的数据中心，怎么连起来，形成跨区域的算力网络呢？

答案很简单：靠骨干网络。

咱们三大运营商，在全国范围内早就建好了高速光纤骨干网，就像一张巨大的“算力高速公路网”，把各省各市的数据中心都连接在了一起。而且三家运营商，各有各的优势：

中国移动：拥有全球最大的光纤网络，骨干网的带宽大得吓人，能轻松支撑海量数据传输；

中国电信：有CN2精品网，专门服务政企客户，稳定性、速度都有保障；

中国联通：骨干网覆盖全国，性价比高，在很多区域的传输效率都很出色。

这其实就是运营商在算力时代的核心竞争力——网络是现成的，而且是最好的。

可能有人会问，大模型公司不能自己建跨城市的连接吗？理论上可以，但成本高到离谱。光在全国范围内拉光纤、建传输线路，就是一笔天文数字，而且耗时耗力。而运营商的骨干网已经铺好了，大模型公司只需要“开几个端口”，就能接入整个算力网络，省心又省钱。

关键环节：算力请求怎么找“空闲服务器”？

光有数据中心、有骨干网络还不够。咱们平时说“我要用算力”，比如用大模型生成一篇文案、处理一份数据，这个请求是怎么被精准路由到具体的数据中心，找到空闲的服务器的？

靠的就是算力调度平台。

咱们之前聊的运营商“算力网络”，核心其实就是这个调度平台，它就相当于算力的“智能调度员”，工作流程特别简单：

你提交一个AI任务（比如用大模型提问、处理数据）；
调度平台会实时查看，全国范围内哪个数据中心的算力空闲、哪个离你最近；
快速把你的任务分配给最合适的数据中心，让空闲的服务器来处理；
计算完成后，再把结果通过网络返回给你。

给大家举个最贴近生活的例子，就像：

你点外卖，外卖平台会自动分配给你最近、最空闲的骑手，效率最高；
你用算力，调度平台就会分配给你最近、最空闲的算力节点，速度最快、成本最低。

而运营商，简直是天生适合做这件事——有覆盖全国的网络，有遍布各地的数据中心，还有深厚的政企、个人客户关系，不用额外投入太多，就能把算力调度做得又快又好。

冷知识：数据中心是“耗电大户”

全球数据中心耗电量占全球总发电量的1-2%，体量惊人：

中型数据中心耗电堪比小型城镇，大型堪比中型城市；

一块H100 GPU满载功耗700瓦，一万台同时运行相当于小型发电站；

大型智算中心年电费轻松过亿。

这也是贵州、内蒙古数据中心多的原因——不仅电价便宜，而且气候凉爽，能大幅降低散热成本，帮数据中心省不少电费

而运营商的数据中心分布在全国，能灵活选择“电力成本低、气候条件好”的地区建设智算中心，这就是运营商的成本优势，别人想学都学不来。

数据中心的“命门”：怕停电、怕过热

H100工作温度达80-90度，过热会降频甚至烧毁，数据中心最怕停电和过热：

停电靠UPS和备用发电机解决；过热主要靠三种散热方案：

风冷：最常见，靠大功率风扇散热，简单实用；

液冷：效率更高，服务器泡在冷却液里，是大趋势；

浸没式液冷：顶级配置，整台服务器浸在绝缘液体里，散热最好。

华为和三大运营商都在推广液冷数据中心，兼顾稳定和节能。

好了，数据中心的核心知识点就这些了。下期是关键：运营商在算力时代的机会是什么？怎么把“网络优势”变成“算力优势”？

关乎通信人职业方向，记得关注，咱们下期见！

关注《锵锵行通信咨询》，用通俗语言看懂 AI 与通信科技，下期见！

媒体运营编审：锵锵行通信咨询团队

制图：王东编辑：孙博

审校：黄国栋

END