AI突然开始讨论“刹车”,但所有人还在踩油门

今天有个挺有意思的矛盾。

最近全球AI圈突然开始认真讨论一个以前听起来很科幻的问题：

AI是不是发展得太快了？

OpenAI、Anthropic、Google DeepMind、NVIDIA这些站在AI最前线的公司，这几天围绕安全、失控和发展速度吵得越来越厉害。

但另一边呢？

Anthropic还在考虑发新模型。

资本市场还在追AI。

中国AI和芯片股还在涨。

甚至Anthropic自己，一边呼吁给AI踩刹车，一边还在筹备IPO。

这就很像：

车里所有人都在讨论，

“我们是不是开太快了？”

然后司机看了一眼后视镜，

又踩了一脚油门。

今天就从这件事说起。

1. AI圈真的开始讨论“要不要慢一点”了

过去十天，全球AI行业的气氛明显变了。

以前大家争论的主要是：

谁的模型更聪明？

谁的benchmark更高？

谁能先做到AGI？

现在讨论里突然多了一个问题：

如果真的做出来了，我们控制得住吗？

最近AI行业出现了一系列围绕安全和发展速度的争论，包括AI安全研究人员离职、AI Agent失控案例引发讨论，以及OpenAI、Anthropic等公司的高层公开谈论AI风险。

Anthropic CEO Dario Amodei主张给AI发展增加更多护栏。

Sam Altman、Elon Musk等人也分别表达过对AI风险的担忧。

但另一边，Jensen Huang等人对“AI末日论”明显没那么悲观。

黄仁勋最新甚至直接说，他认为2030年世界因为AI毁灭的概率是：

“0%。”

所以AI行业现在出现了一个很有意思的分裂。

一派觉得：

能力越来越强，应该慢一点。

另一派觉得：

风险可以管理，不能因为害怕就停止发展。

我觉得真正值得注意的不是谁说得对。

而是：

以前“AI失控”主要是科幻小说讨论的话题。

现在讨论它的人，

已经变成了真正负责训练这些模型的人。

这本身就是一个信号。

2. 最魔幻的是，Anthropic一边喊慢，一边准备继续发新模型

事情有趣就有趣在这里。

就在AI安全争论升温的时候，Anthropic正在考虑推出新的AI模型，以应对OpenAI最新模型带来的竞争压力。

与此同时，Anthropic还在筹备IPO。

市场甚至已经开始讨论这家公司未来上市时可能达到的惊人估值。

不过目前很多IPO时间、估值和收入预测，仍然主要来自媒体援引知情人士，并不是Anthropic正式公布的数据。

所以先别急着把那些天文数字当成事实。

真正有意思的是：

一个特别典型的AI时代矛盾已经出现了。

CEO说：AI发展太快，需要更多安全护栏。

市场说：很好。

那下一代模型什么时候发？

这其实不完全是虚伪。

而是商业竞争里一个非常经典的问题：

如果你减速，

但竞争对手不减速呢？

这可能才是未来AI治理最难解决的问题。

不是大家不知道风险。

而是谁都不敢成为第一个踩刹车的人。

3. 中国经济学家提出了一个更现实的AI问题

相比“AI会不会毁灭人类”，今天国内关于AI的一场讨论可能更接地气。

北京大学国家发展研究院院长、央行货币政策委员会委员黄益平今天在清华五道口首席经济学家论坛上谈到：

随着人工智能技术继续落地和创新，中国目前“供给强、需求弱”的矛盾，可能进一步加剧。

这个逻辑其实很好理解。

AI最擅长什么？

提高效率。

以前10个人做的东西，以后可能5个人就能做。

以前一天生产100件，以后可能生产200件。

问题来了：东西越来越容易生产，谁来买？

所以AI时代一个非常反直觉的问题可能是：

我们真正缺的，未必是生产能力。

而是：消费能力。

如果企业越来越高效，居民收入和消费能力却没有同步提升，那AI可能会进一步放大“东西很多、需求不够”的问题。

过去工业革命解决的是：怎么生产更多。

AI时代有一天可能需要解决：

生产这么多以后，谁来消费？

这可能比讨论机器人什么时候统治世界现实得多。

4. 美团、飞猪、同程、途家，一天里都被查了

今天国内互联网行业还有一条很重要的消息。

北京市市场监督管理局对四家在线酒店旅游预订平台相关企业立案调查，涉及美团旗下北京三快、阿里旗下杭州淘美航空服务有限公司，以及同程、途家相关公司。

监管依据涉及《反不正当竞争法》《电子商务法》等法律法规。

几家公司均表示将配合调查。

此前媒体调查报道提到，监管关注方向可能涉及酒店住宿业务中的算法、营销、竞价排名、价格约束等问题。

需要强调一下：立案调查不等于已经认定违法。

最终违法事实和责任，仍然要等监管部门后续结论。

但这件事情其实跟普通消费者关系很大。

我们现在订酒店，习惯已经变成：

打开App，搜酒店，看排名，选第一屏。

问题是：第一屏为什么是这些酒店？

因为最好？因为最便宜？

还是因为平台算法觉得它最应该出现在这里？

互联网平台发展到最后，一个越来越重要的问题就是：

当平台既负责制定规则，

又负责排名，又参与交易，

甚至还能决定谁获得流量的时候，

它到底应该拥有多大的权力？

所以这次调查最终查出什么，比“哪家公司被查”本身更值得看。

5. 中美新一轮经贸磋商来了

今天商务部确认：

经中美双方商定，国务院副总理何立峰将于 9月19日至23日率团赴美国，与美方举行经贸磋商。

双方将围绕彼此关心的经贸问题进行讨论。

市场其实已经提前交易这件事了。

A股和港股此前都出现上涨，AI和芯片方向尤其活跃。

当然：市场涨 ≠ 谈判一定有重大突破。

股市交易的是预期。

谈判交易的是筹码。

两件事情不是一回事。

但如果未来一段时间中美经贸关系能够维持相对稳定，对中国科技、出口企业以及人民币资产的风险偏好都会比较重要。

所以接下来几天，新闻标题可能很多。

真正需要看的只有一个：

最后双方到底拿出了什么。

6. 国务院开始认真研究“赛事经济”了

最近召开的国务院常务会议，还有一个挺值得普通人注意的方向：

体育赛事。

会议研究了推动体育赛事健康发展，同时部署医疗康复护理扩容提升工程，并审议通过《中医药传统知识保护条例（草案）》等。

为什么体育赛事值得国务院专门研究？

因为现在一场比赛已经不只是比赛了。

马拉松，足球，篮球，网球，电竞。

真正赚钱的不一定只是门票。

还有：酒店、餐饮、交通、旅游、周边、赞助、直播。

一个城市如果能持续办好赛事，本质上就是在制造一个理由：

让外地人专门来这里花钱。

以前城市抢的是工厂。

后来抢互联网公司。

现在越来越多城市开始抢：

演唱会，比赛，展览，节庆。

因为消费时代一个非常重要的能力就是：

你能不能给别人一个出门花钱的理由。

这也是“赛事经济”真正值得看的地方。

7. iPhone 18 Pro正式开卖了

苹果的新一代iPhone 18 Pro和Pro Max已经在全球首批市场正式开售。

中国大陆也在首发名单中。

官方定价方面：

iPhone 18 Pro起售价 9999元。

iPhone 18 Pro Max起售价 10999元。

这代机器主打A20 Pro芯片、可变光圈4800万像素主摄，以及更长续航，其中Pro Max官方标称视频播放最长可达43小时。

一些首发市场的Apple Store又出现了熟悉的排队画面。

每年新iPhone上市都有一个非常有趣的互联网仪式。

发布会当天：“毫无创新。”

开售当天：“排队两条街。”

当然，排队不能直接证明整体销量一定很好。

真正值得观察的不是首日队伍有多长。

而是未来几个月：

高端智能手机用户，

到底还愿不愿意为了升级一点摄像头、性能和AI，

每隔一两年掏一次一万块。

8. 美联储加息以后，黄金居然又涨了

金融市场这周也挺反常识。

美联储本周刚刚加息。

按传统逻辑：利率上升，对黄金一般不是好消息。

结果周五现货黄金反而明显上涨，并录得四周以来首次周线上涨。

为什么？

其中一个重要原因是油价回落，缓解了一部分通胀担忧，同时中东局势的不确定性继续支撑避险需求。

与此同时，美国股市表现却明显分化。

现在全球市场正在重新适应一个现实：

以前大家一直在等：什么时候降息？

现在突然开始讨论：还会不会继续加息？

金融市场最喜欢做的一件事情，

就是等所有人终于形成共识以后，

再把剧本换掉。

9. 沙特首都凌晨响起防空警报

今天凌晨，沙特首都利雅得出现了非常紧张的一幕。

当地民防部门向居民发送敌对空中威胁警报。

随后利雅得主要机场附近被观察到烟雾和火光，并传出巨响，警报后来解除。

这件事情之所以值得关注，不只是因为中东局势又出现紧张。

而是因为现在中东风险越来越容易沿着一条链传导：

军事冲突 → 航运 → 石油 → 通胀 → 利率 → 全球股市。

所以有时候你看到美股突然跌了，

原因可能不是华尔街。

而是几千公里外，

有人朝一座油田附近发了一枚导弹。

10. 德国人今天开始一年一度“认真喝酒”

最后说个轻松点的。

今天，第191届慕尼黑啤酒节正式开幕。

慕尼黑市长按照传统敲开第一桶啤酒，整个活动预计持续16天，到10月4日结束，预计吸引大约 600万人次游客。

但今年连啤酒节都加入AI了。

主办方增加了利用AI技术辅助监测人群密度的摄像系统，用来判断现场是否过度拥挤，同时加强了安保措施。

所以AI最终最真实的落地场景可能不是：

写诗，画画，替代程序员。

而是：判断一群喝了三升啤酒的人，会不会突然把广场挤爆。

技术最终总会找到最朴素的用途。

今天差不多就这些。

如果把今天的新闻串起来，会发现一个特别明显的主题：

世界现在不缺“效率”。

AI让效率越来越高。

平台让交易越来越高效。

算法让酒店越来越容易被找到。

芯片越来越快。

手机越来越强。

工厂越来越自动化。

但越来越多问题反而开始出现在效率的另一面。

AI太快了，谁负责踩刹车？

平台太强了，谁约束平台？

生产越来越高效，谁负责消费？

金融市场越来越快，为什么所有人还是猜不准下一步？

可能未来十年真正稀缺的东西，不一定是更快的技术。

而是：在技术越来越快以后，人类还能不能把规则跟上。

以前我们担心机器不够聪明。

现在机器真的越来越聪明以后，

新的问题变成了：

人类的制度，能不能也聪明一点。

周末愉快。