乐于分享
好东西不私藏

AI到底有多耗电?"训练一次够一个城市用一年"是真的吗?

AI到底有多耗电?"训练一次够一个城市用一年"是真的吗?
NOTEAI认知系列

AI到底有多耗电?"训练一次够一个城市用一年"是真的吗?

"训练一次GPT-4,够一个城市用一整年。"

这句话你在朋友圈、短视频、甚至正经媒体的报道里可能都看到过。配上AI的快速发展,很容易让人产生一种焦虑——我们是不是在用全人类的电,去养一个只会聊天的机器人?

今天我们把这件事掰开揉碎,用真实数据说话。


📖 先定义:AI的耗电分两种

AI的能耗分为"训练"和"推理"两个完全不同的阶段,就像建工厂和工厂开工——不能混为一谈。

  • 训练(Training)
    :用海量数据"教"出一个模型。比如GPT-4的训练,几万张显卡跑好几个月。这是一次性的。
  • 推理(Inference)
    :训练完后,模型回答每一个问题、生成每一张图片的过程。这是持续的,每用一次就耗一次电。

一个精妙的类比:

训练一个AI大模型,就像盖一座大型炼钢厂。你要挖地基、建厂房、装高炉——前期投入巨大,能耗极高,但这是一次性的。

推理,就像炼钢厂投产之后,每炼一炉钢都要烧煤。单次消耗远不如建厂时多,但架不住每天都在烧。

那些吓人的标题,基本都在说"训练",而且是拿最大的模型算的。 但真正持续的、影响更大的,其实是推理——因为全世界每天有上亿人在用ChatGPT、豆包、文心一言。


📊 先算账:训练GPT-4到底用了多少电?

先说清楚,OpenAI没有公开过GPT-4训练的具体耗电量。但业内人士根据已知信息做过估算。

GPT-4据传用了约25000张A100显卡,训练了90到100天。 每张A100的功率约400瓦。算下来:

25000张 × 0.4千瓦 × 24小时 × 100天 ≈ 2400万度电

2400万度电是什么概念?

  • 一个中国家庭一年用电大约2000-3000度
  • 2400万度 ≈ 约1万个家庭一年的用电量
  • 或者换个说法:相当于一座3-5万人口小城镇的年用电量

跟"一个城市"比,这个数字差了两个数量级。 中国一个中等城市(比如300万人口的合肥),年用电量在200亿度以上。2400万度只是它的千分之一。

那"够一个城市用一年"的说法是哪来的?

这个说法大概率是把几个数字混在一起放大了——把训练和推理混为一谈、把预测数字当现实、或者拿未来更大型号的估算来吓人。

对比项
耗电量
相当于
GPT-4训练(估算)
~2400万度
约1万个家庭一年
一个中等城市一年
~200亿度
GPT-4训练的800倍
全球数据中心一年
~3000亿度
全球用电的1-2%
全球AI训练+推理
约占数据中心用电的15-20%
全球用电的0.2-0.4%

结论很明确:AI耗电确实在快速增长,值得关注。但"训练一次够一个城市用一年"是夸张了至少几百倍。


🔥 真正值得关注的不是训练,是推理

很多人盯着训练那一次性的2400万度电,但真正的大头在后面。

让我们算一笔推理的账:

假设ChatGPT每次回答平均消耗0.003度电(这个估算来自研究机构SemiAnalysis)。如果全球每天有1亿次对话:

1亿 × 0.003度 × 365天 ≈ 1.1亿度/年

一年下来,推理的耗电量是训练的好几倍。而且这个数字还在快速增长——因为用户越来越多、模型越来越复杂。

又一个类比:

训练一个模型,就像买一辆车——一笔大的固定开销,人人都盯着。推理,就像每天加油——每次不多,但一年下来油费可能超过车价。

如果生成一张AI图片呢?

据研究机构估算,生成一张AI图片的耗电量大约在0.002到0.03度之间,取决于模型大小和图片分辨率。取中间值约等于给手机充一次电。

这个数字单看不大。但Midjourney每天生成几百万张图——加起来就不小了。


🌍 跟其他事情比,AI算不算"电老虎"?

数字摆在那了,但我们需要一个参照系。AI耗电到底算不算多?

对比项
年耗电量(估算)
AI与之相比
全球数据中心(含AI)
~3000亿度
AI约占其中15-20%
全球空调
~20000亿度
AI只是空调的几十分之一
比特币挖矿
~1200亿度
AI训练+推理远低于此
全球视频流媒体
~2000亿度
与AI总量相当
全球航空业燃油
折算约30000亿度
AI只是航空业的几十分之一

说AI是"电老虎"——跟你的手机比,是的。跟全社会的用电量比,目前还不是。

但趋势值得关注。AI的用电量增长速度远超大多数行业——如果每两年翻一倍,十年后的账就不一样了。


🔋 那AI公司是怎么应对的?

能耗问题,AI行业自己比谁都清楚。电就是钱,每度电都烧在显卡上。

1. 用更省电的芯片

英伟达从A100到H100到B200,每一代都在降功耗。H100比A100能效提升了约2-3倍——同样的计算量,电费省一半多。

2. 把数据中心建在能源便宜的地方

微软、Google、亚马逊都在把AI训练中心往电力便宜且清洁能源丰富的地区迁——北欧的水电、美国中西部的风电、中东的太阳能。

3. 模型"瘦身"

一个趋势是模型在变"小"但变"强"——比如通过更好的训练方法和架构设计,用更少的参数达到同样的效果。微软的Phi系列就是典型——参数量只有GPT-4的几十分之一,但在某些任务上表现接近。

4. 核能入场

微软重启了三哩岛核电站(对,就是1979年出过事故的那个),专门给AI数据中心供电。Google、亚马逊也在投资小型模块化核反应堆(SMR)。AI公司正在变成能源公司。


💡 客观地说:该焦虑还是不焦虑?

不需要过度焦虑的:

"训练一次够一个城市用一年"是标题党。目前AI的能耗在全球尺度上还不算夸张。你每次跟ChatGPT聊天耗的电,可能比你看一个抖音视频还少。

值得关注的:

AI的用电增速远超大多数行业。如果按现在的速度增长,到2030年AI的用电占比会从目前的不到0.5%上升到2-3%——那时候就不能再说"不算什么"了。

最重要的视角:

AI不只是"消耗"能源——它也在帮人类"节省"能源。AI优化电网调度、设计更高效的芯片、发现新材料加速电池研发、改进天气预报减少航班绕飞……这些"省下来的电",可能远超AI自己消耗的电。

这不是在为AI开脱。这是一个事实:工具的价值不能只看它花了多少,还要看它省了多少。


💡 一句话总结

AI的能耗被严重标题党化了——训练一次GPT-4的用电量约等于1万个家庭一年,远不是"一个城市"。但推理阶段的持续消耗、以及整个行业的增长速度,确实需要被认真对待。与其恐慌"AI吃掉地球",不如关注AI公司和能源行业正在做的降耗努力——毕竟电费是它们自己掏的,它们比谁都急。


(下次有人在群里发"AI训练一次够一个城市用一年",把这篇文章甩过去。数字不可怕,可怕的是不知道数字。我是面包君,下次再聊。)

这里是AI面包君

分享AI工具、提示词和可落地的效率方法。

相关学习资料