AI算力投入的真相:不是买不起,是用不起来

点击上方蓝字关注我们

英伟达最新财报再次刷新纪录，数据中心业务收入同比增长翻倍。看到这个数字，我脑海里浮现的是过去几年拜访过的几十家传统企业CIO脸上的表情既兴奋又焦虑。

兴奋的是，算力越来越强，AI能做越来越多的事。焦虑的是，自己企业投入的几百万AI算力，到底什么时候能看到回报？

我从2018年开始带团队做AI项目交付的，期间见过太多企业在算力投入上走的弯路。有家制造企业，听说AI质检效果好，一口气买了8张A100，结果半年后使用率不到15%。不是技术不行，是他们根本没想清楚要用来干什么。

这件事让我明白一个道理：AI算力投入，不是买不买得起的问题，是该不该买、买了怎么用的问题。

Part.01

算力投入的三个认知陷阱

第一个陷阱：把算力当成AI项目的核心瓶颈。

很多管理者以为，AI做不好是因为算力不够。其实我见过的90%的AI项目，问题都不在算力，而在数据质量和业务场景定义。你给再强的算力，业务问题没定义清楚，数据没准备好，它就是一堆昂贵的废铁。

我之前带团队做港口AI集装箱识别项目时，客户一开始坚持要买最顶尖的GPU集群。我们花了两周做评估，发现他们实际的识别场景，用中端算力完全够用。最后省下来的钱，投入到了数据标注和质量管控上，项目成功率反而高了很多。

第二个陷阱：用互联网公司的算力标准衡量传统行业。

互联网公司一天处理几十亿次请求，当然需要顶级算力。但传统企业的大部分AI场景，是特定的、可控的、规模有限的。你不需要实时响应几百万用户，你需要的是把一个具体业务问题解决好。

有个做零售连锁的客户，非要对标某大厂的AI推荐系统算力配置。我问他，你一天多少订单？他说大概5万。我说，你知道某大厂一天多少订单吗？他说不知道。我说，你差着4个数量级。

第三个陷阱：忽视算力的隐性成本。

买算力不是一次性投入。电费、冷却、维护、升级、人员培训，这些隐性成本往往是显性成本的2-3倍。我见过太多企业，算力买回来了，结果发现每个月的电费和运维成本远超预算，最后只能闲置。

Part.02

算力的正确打开方式：三个问题测试

我在商汤带团队做AI项目交付时，总结出一个简单的测试框架，三个问题，帮你判断该不该投入高端算力。

问题一：你的AI应用场景，是真的需要顶级算力，还是你以为需要？

区分清楚：是训练需要（大模型训练、复杂模型迭代），还是推理需要（已经训练好的模型，用来做预测）？大部分传统企业的AI应用，都是推理需要，对算力要求没那么高。

问题二：你的数据准备好了吗？

算力是引擎，数据是燃料。你引擎买回来了，燃料没有，或者燃料质量太差，引擎再强也跑不起来。我始终相信，数据和业务理解，比算力更重要。这是我在无数项目中踩坑踩出来的结论。

问题三：你有没有算过总拥有成本？

不要只算采购成本，要算三年总拥有成本。采购成本可能只占30%，剩下的70%是电费、冷却、运维、升级、人员。算完这个数字，你还觉得值得吗？

Part.03

不同企业的算力策略

年营收10亿以下的企业：优先考虑云服务，不要自建算力

除非你有非常明确的、持续的、大规模的AI训练需求，否则云服务更划算。灵活、可扩展、不需要前期巨额投入。我给很多中小制造企业的建议都是：先用云，等业务真的跑通了，再考虑自建。

年营收10-200亿的企业：混合策略，核心业务自建，非核心业务用云

你有实力建一些算力，但没必要全部自建。把最核心的、数据最敏感的、使用最频繁的业务放在本地，其他的放云上。这样既能控制成本，又能保证核心业务的稳定性和数据安全性。

年营收200亿以上的企业：可以建私有云，但要有专业团队

你有实力建私有云，但前提是你有专业的AI团队来运维。如果没有，建了也是浪费。我见过太多企业，私有云建好了，结果没人会用，最后还是跑去找云服务。

Part.04

算力的未来：从追求峰值到追求效率

我看到一个趋势，越来越多的企业开始从"追求算力峰值"转向"追求算力效率"。不再是"我有多少PFLOPS"，而是"我每PFLOPS能创造多少业务价值"。

这个转变，其实是AI落地进入成熟期的标志。早期大家比谁的算力强，现在大家比谁的AI真的在用、真的在创造价值。

那些还在炫耀算力配置的企业，我觉得他们可能还没想清楚AI到底要用来干什么。而那些默默把AI融入业务流程、创造出实际价值的企业，才是真正懂AI的。

如果你也在纠结算力投入的问题，先别急着下单。搞清楚你的业务问题是什么、数据准备好了没有、有没有算过总拥有成本，然后再决定。

我始终相信，技术应该服务于业务，而不是反过来让业务去适应技术。AI算力再强，它也只是工具，不是目的。

Part.05

给管理者的三个建议

建议一：先做试点，再决定投入规模

不要一下子投入几百万建算力中心。先找个具体业务场景，用小规模算力（甚至先用云）做试点。试点成功了，证明价值了，再扩大投入。这样即使失败了，损失也可控。

建议二：建立算力使用的KPI

买了算力，就要有人为使用效率负责。我建议设立"算力利用率"和"AI项目ROI"两个KPI，定期复盘。如果算力利用率长期低于30%，就要重新评估投入策略。

建议三：培养自己的AI团队，或者找到靠谱的合作伙伴

算力买回来，需要有人会用。如果你没有专业团队，就要找到靠谱的合作伙伴，帮你做算力规划和运维。不要以为买了算力就万事大吉，那只是开始。

说到最后，AI算力投入，不是技术问题，是战略问题。

你是要跟上潮流，还是要创造价值？你是要面子和故事，还是要实打实的业务提升？想清楚这两个问题，算力的账，其实很好算。

我始终相信，只有创造实际价值的AI，才是好的AI。那些为了AI而AI的投入，最后都会变成沉没成本。

互动问题：如果你也有算力投入的纠结，或者已经在AI项目上走了弯路，欢迎在评论区分享你的经历。你怎么看英伟达财报和传统企业的AI算力投入？你觉得算力重要，还是数据和场景更重要？

作者提示：个人观点，仅供参考