AI的隐忧

不可否认，AI的技术突破带给人的震撼是极其强烈的。人类历史上从来没有出现过如此像人的东西，甚至在逻辑这一块是超越普通人的。人类在计算速度上输给cpu，在记忆上输给存储，如今在思考逻辑上也要败了。

我至今也想不明白大模型是如何这么完美的对应问题和答案的，以及如何选择（或者说生成）出最合理的答案，但技术进步就如此华丽丽的登场了。

这让人们既惊喜，又恐慌，还带着对未来人类命运的焦虑。AI经过近4年的发展，其优势已经都大体展示出来了，它的好深入人心，但这个世界的运行法则是不会有完美的东西，本文就看看AI的隐忧。

夸张的投入产出比

前面几篇文章已经看出来了，大模型在出现快4年后的今天依然不能盈利，最主要的问题就是其超大的投入。从其供给端看，不仅仅限于对GPU、CPO、存储芯片、PCB、光纤这些核心设备的高需求，现在还导致电不够了，机房不够了，甚至再导致铜、UPS、电源、燃气轮机、制冷剂、电网设备等通通不够，都要涨价。

现在CRB大宗商品指数已经接近历史新高（2008）了，是历史第二高。按理说技术进步带动了劳动生产率的提高，应该是低物价高增长啊，但这次的科技进步和电气革命、汽车、互联网、移动互联网都不太一样。现在世界上的AI大模型一共能有100个吗？带来的结果竟然恐怖如斯。

原因也许是这样的。AI的每次思考，是全脑的行为，是上亿神经元共同作用的结果。这和软件、互联网公司提供服务的边际成本非常低是不一样的。这也许是“高智商”不得不带来的一个劣势。未来会遇见这样一种尴尬，就是投入的资金带来大模型“聪明”的提高是不成正比的，就是我用一倍的资金只能带来50%的聪明提高，这就是事倍功半，而且这个比例会越来越低。

现在人们都在说AI会取代普通的技术员，带来成本的大幅降低，AI如此的提高了劳动生产率。但现在的AI免费或者低价不是终局啊，资本家不是慈善家。未来情况会不会相反呢，AI的大投入带来高额的成本，让调用费用越来越高，公司神奇的发现雇人的成本反而比较低。

有监督的工作

使用大模型的时候会发现它有时会一本正经的胡说，如果你纠正它，它态度特别好的就改正了。我觉得这也许是AI的第二个缺点。未来随着技术更加的精进会改善这种情况但不能根除。AI编程也是一样，AI是不能独立自主的编制严肃的软件的。你必须要把任务细化再细化，还要做好代码审查和测试。

就是说人必须是领导，来指挥AI干活，有监督的工作。AI说白了是人的工具，和石头、驯养、马鞍、纸张、钢铁、火药、电能、汽车、电脑、手机并没有不同。

在网络上看到一位父亲对打算未来从事游戏制作工作的儿子的担忧，认为未来会被AI取代。不得不说想太多了。AI对人能力的要求不是降低了，而是更高了。你至少要能看懂AI说的什么，分辨出AI的错误，会对AI的编程代码进行审计。一个不会编程的人能借助AI编程，这只能是玩玩，做做原型程序去验证想法可以，这样的人带着AI在制作严肃的、商用的程序中发现bug，找bug原因，纠正bug绝对是噩梦。编程语言也是语言，相比自然语言更简单，更专业，更有效。编程界一直都有个说法就是：不用多说，请展示代码。而且语言只是基础，上面承载着逻辑、思想、甚至哲学。AI可以让程序员如虎添翼，但什么也不学就想用AI编程，那出来的只能是垃圾。

责任问题

现在的AI发展如狼奔豕突，但过了萌芽期后，很多法律责任问题会出现。比如汽车自动驾驶撞人了谁来负责，不可能让AI负责吧。AI生成的文章、音乐、视频里面如果有30%、60%或者90%的模仿某个作家、某个歌手、某个明星怎么办，有没有专利权、著作权、肖像权的问题。断人财路，人家不会善罢甘休的。

折旧问题

看英伟达的产品历史：A100（2020年），H100（2022），H200（2023），GB200（2024），GB300（2025），Vera Rubin（2026）。每代都至少是翻倍的性能提高。飞速发展的高科技领域带来的折旧问题是非常严重的，只要每年新产品一发布，去年的老产品价值就贬值了一半。想想前几年花巨额投入建设的AI设备、机房会贬值到何等程度，这就是泡沫之源。