从算力到账单：AI工具成本计算入门指南

算力不只是“快不快”。显存不够，模型根本加载不进去；带宽不够，算力再高也会被卡住。

训练大模型最吃算力。拿 70 亿参数、1 万亿 token 来算，总运算量约 4.2×10²² 次。用一张 H100，理想情况要跑 486 天。实际利用率只有三成左右，单卡得熬好几年。推理就是模型“用起来”的阶段。每生成 1 个 token，大约需要 2N 次浮点运算。生成量一大，成本照样累积。

AI 工具怎么收费？三种路子。按 API 调用量最省事。输入 1 元/百万 token，输出 8 元。生成一篇 1500 字文章，输出约 2000 token，算下来才 0.016 元。纯文本其实很便宜，贵的是图片、视频和批量处理。

批量生图、做漫剧，通常按 GPU 小时租。RTX 4090 约 2–6 元/小时，H100 能到 20–60 元。自己买机器，一台 RTX 4090 整机 1.5 万。每天跑 4 小时，折旧加电费约 3.69 元/小时。要是 24 小时连轴转，成本能压到 0.84 元。所以本地部署适合高频、长期、数据私密的事。偶尔用，还是 API 划算。