风暴前夜:AI圈本周发生了三件大事,件件扎心

作者：小甲鱼AI研究所 | 2026年6月7日

这个周末，AI圈一点都不平静。

Anthropic站出来呼吁全球AI降温，字节的豆包付费模式月活蒸发610万，腾讯自曝今年大部分代码是AI写的, 三个独立事件放在一块看，勾勒出一幅有意思的图景：行业一边在狂奔，一边开始有人喊刹车。

另外还有两条新闻值得关注：全球机器人流量首次超过人类，Meta的AI客服被黑客用来偷账号。两件事加在一起，构成了某种"AI正在反噬"黑色幽默。

下面逐一拆解，附来源，不含emoji，放心阅读。

本周最重磅的声浪，来自Anthropic。

据《华尔街日报》报道，Anthropic在一篇博客文章中明确呼吁全球顶尖AI实验室考虑放缓研发步伐，理由是当前AI系统进步速度太快，"很可能很快就能在无需人类干预的情况下自我改进"，这将带来重大社会风险。

Anthropic还罕见披露了内部数据，展示其最先进AI模型能力提升的速度, 言下之意：我们自己都有点害怕了。

小甲鱼观点：

这里有个微妙的地方值得玩味：Anthropic选择在这个时间点发声，时机"太巧"了点, 就在其保密提交IPO注册文件草案之后不久。

公司联合创始人Daniela Amodei随后在彭博科技大会上坦言："训练AI模型是高度资本密集型业务，公开市场非常适合这种情况。"说白了，Anthropic的商业模式需要大量资金支撑，IPO是必选项。

但监管层面就不一样了。如果全球AI减速成为政治正确，监管成本上升，小公司的门槛会更高，行业集中度反而会上升, 这对头部玩家是好事。

所以，Anthropic的"刹车呼吁"到底是出于安全考量，还是竞争对手公关，需要打个问号。

不过，"自我改进"这条线确实值得认真对待。当模型能够在无人干预的情况下改进自己，传统的AI Safety框架就会面临根本性挑战。这一点，业内没人能完全否认。

🔗 来源： 36氮, https://36kr.com/p/3840996342073604

在6月5日腾讯云AI产业应用大会上，腾讯高级执行副总裁汤道生在与首席AI科学家姚顺雨的对话中透露：今年腾讯大部分代码都是由AI生成，工程师把写代码的工作都交给AI了，自己主要做架构设计和定期指导修正。

同时，腾讯云TokenHub上线三个月，保持每月翻倍增长，日Token消耗量已突破5万亿。

小甲鱼观点：

腾讯这句话信息量很大。

表面看是AI赋能，但背后其实是软件工程范式的一次根本性转移。工程师的角色从"写代码"变成了"审代码", 这意味着一个工程师可以监督AI产出更大规模的代码，单位产能理论上可以提升数倍。

对整个行业来说，这是一把双刃剑：

• 好消息：AI正在兑现提升生产力的承诺
• 坏消息：大量初级程序员岗位会受到冲击

同时，5万亿日Token这个数字意味着腾讯内部的AI应用已经高度规模化，不是实验性质，而是生产级别的日常运行。这个体量的消耗，对算力、散热、能耗都是巨大考验。

🔗 来源： 36氮, https://36kr.com/p/3840996342073604

据全球AI市场追踪机构Aicpb.com数据，豆包在推出订阅选项后，5月份月活跃用户减少了610万。这是自2023年推出以来豆包罕见的下滑。

Aicpb.com创始人李邦竹表示："中国的免费AI服务时代还远未结束，所以豆包的商业化可能确实为时过早。"

有分析认为，字节跳动过早将盈利模式商业化，可能失去中国竞争激烈的消费AI市场领先地位。

小甲鱼观点：

豆包的数据非常有参考价值。

它揭示了一个现实：国内用户对AI应用的付费意愿，远比资本市场预期的要低。这与海外市场形成了鲜明对比, ChatGPT、Claude的订阅模式在英语用户群体中运转良好，但国内用户"薅羊毛"的文化惯性极强。

字节跳动可能是被资本市场的商业化压力逼到了墙角，不得已提前试水付费。但这一试，代价是真实的用户流失。

对于整个国内AI行业来说，豆包这个案例是一个警示：在用户习惯培养阶段过早收费，可能是在帮竞争对手抢用户。

🔗 来源： 36氮, https://36kr.com/p/3840996342073604

Cloudflare数据显示，目前57.4%的网络流量来自机器人，人类流量首次被超越。Cloudflare CEO Matthew Prince在社交媒体上评论："好吧，这比我预测的快多了。"他此前预计这一里程碑会在2027年底才会到来。

与此同时，联合国大学研究表明，如果在AI指令中减少"谢谢"等礼貌用语，可让ChatGPT能耗降低25%, AI的能源消耗问题正在从技术议题变成环保议题。

小甲鱼观点：

57.4%这个数字，初看令人震惊，细想却在情理之中。

搜索引擎爬虫、数据采集工具、API调用, 这些"好机器人"占据了很大比例。但值得注意的是，恶意机器人的比例也在上升，包括用于DDoS攻击、账号填充、内容抓取的自动化工具。

对企业来说，这意味着：网站 analytics 数据里有一半的"访客"不是真人，基于流量的运营决策需要重新校准。对安全团队来说，Bot管理从"nice to have"变成了基础设施级别的必备能力。

另外，能耗这条线值得关注。AI推理的能耗问题，在模型越来越大的背景下，会成为制约AI扩张的物理瓶颈。来源： IT之家, https://www.ithome.com/0/960/839.htm ; MIT Technology Review, https://www.technologyreview.com/2026/06/05/1138452/the-download-ai-hacking-mythos-chatbots-brain-impacts/

据MIT Tech Review报道，黑客利用Meta的AI客服机器人，成功窃取了Instagram用户账号。攻击方式出人意料地简单：直接让AI把账号关联的邮箱改成攻击者控制的地址。

攻击者将恶意指令藏在HTML注释中, 这类内容在GitHub展示界面中不可见，但读取Markdown源码的AI却能识别。这种手法被称为"提示词注入攻击"。

微软威胁情报团队发现，Claude Code的GitHub自动化流程也存在类似漏洞：读取工具没有对/proc/目录下的敏感文件做访问限制。Anthropic已于5月5日发布修复版本。

小甲鱼观点：

这起事件的教训不在于攻击有多复杂，而在于攻击面对的是已经部署到生产环境的AI系统。

Anthropic忙着给外界画"超级AI太危险"的愿景图，但真正在野外被利用的安全漏洞，反而来自一个最基本的架构设计缺陷：读取工具的权限边界没有做好隔离。

这给所有AI应用开发者提了个醒：AI安全不是等AI能力超越人类之后才需要考虑的问题。在当前的能力水平下，AI系统已经在处理敏感操作（账号管理、文件读写），安全设计必须同步跟上。

🔗 来源： IT之家, https://www.ithome.com/0/960/994.htm ; MIT Technology Review, https://www.technologyreview.com/2026/06/05/1138452/the-download-ai-hacking-mythos-chatbots-brain-impacts/

6月5日，小米技术宣布，小米机器人团队在CVPR 2026 Workshops和ICRA 2026 WBC两个国际顶级会议上斩获双料冠军。

在CVPR 2026 Workshops中，小米匿名参赛模型"my16"以40.89%的成功率位居榜首，是该赛道唯一突破40%门槛的模型；在ICRA 2026 WBC中，小米机器人在超市场景下完成16类饮料的货架抓取与购物车放置任务，综合得分99.2分，整体成功率94%，是榜单唯一超过90%的方案，较第二名高出10个百分点。

小甲鱼观点：

小米机器人的这个成绩值得关注，有几个原因：

第一，CVPR和ICRA双冠意味着在感知和运动控制两个核心技术领域同时达到顶级水平，这不是靠单一技术突破能做到的，需要完整的技术栈积累。

第二，99.2分的综合得分和94%的成功率，放在真实商业场景（超市货架抓取）中已经具备实用价值。工业场景的机器人落地，往往卡在最后10%的可靠性上。

第三，小米在AI硬件上的布局逻辑越来越清晰：从手机到汽车到机器人，三个赛道有协同效应, 视觉算法、芯片设计、供应链能力都可以复用。

不过也要看到，机器人的商业化路径依然漫长，硬件成本、场景泛化、售后服务都是挑战。双料冠军是技术里程碑，不等于商业成功。

🔗 来源： 36氮, https://36kr.com/p/3840996342073604

这一周的几条新闻拼在一起，能看出AI行业正在经历一个微妙但重要的转折：

• Anthropic的刹车呼吁，是行业头部玩家第一次集体承认AI进步速度可能超出控制；
• 豆包付费受挫，说明AI商业化的路比想象中更艰难；
• 腾讯代码AI化，意味着AI对软件工程的渗透已经从实验进入主航道；
• 机器人流量超人类，是互联网结构变化的一个里程碑节点；
• Meta安全漏洞，提醒AI落地带来的安全挑战已经真实存在；
• 小米机器人夺冠，则是国产力量在AI硬件领域的一次正向信号。

风暴还在后面。各位，下周见。

*本文数据来源：36氮、IT之家、MIT Technology Review | 2026年6月7日*