ARTICLE · 1129343
AI 趋势预测:第一期(2026/9)
AI 趋势预测:第一期(2026/9)每天一早醒来，手机必然弹出几个 AI 的爆炸性新闻。爆的多了，人们便失去兴致，觉得不过如此。OpenAI 说：“AGI 时代来了。”大家也不过付之一笑，觉得 OpenAI 又在吹牛，激起一波玩梗的热潮。 人是个神奇的动物，我们的感受力随着身处的环境不断调整，以至于人们并未发觉自己的改变。昨天看到网上有人说：“难以想象‘古人’是怎么‘古法编程’的，怎么可能亲自处理那么多细枝末节的事情。”我感到有些好笑，几年前的程序员竟被叫做“古人”。可我很快就不笑了，由于太久没有手写代码，我早已丢掉了古法编程的技艺。曾经的我编程如喝水般自如，可现在像便秘一样无处下笔。 技术这条路恐怕是走到头了，我开始热衷于预测未来。炒了十几年股，我深知自己对未来的判断毫无信心，但我知道，预测未来这件事是连 AI 也无法做好的事情。而且，预测未来真的很酷。 这几年，我开始深入 AI 安全领域。在西方语境下，AI Safety 之所以受到关注，是因为人们担心超级智能颠覆人类对社会的控制权，进而导致人类灭绝。这种设定初看离奇，但逻辑上讲得通，只是由于太过科幻，人们不愿相信。不过，从今天的 GPT 到人类灭绝，中间的逻辑链条千头万绪，难以言尽。我曾写过一篇《AI威胁论》，算是一种粗糙的预测。现在，我想把时间线拉近，谈谈一到五年内可能发生的变化。 下面是我的观点 第一条是人们容易忽略的事实。市面上最强的模型已经完全可以取代纯数字化、不依赖视觉感知的工作。如果采用一个较流行的 AGI 定义——“AI 能够在 90% 的经济性工作中超越人类”，再附加纯数字化、文本类的约束条件，AGI 已经实现了。之所以人们的工作还未被取代，有三方面的原因。一是模型从发布到大规模落地需要时间，成本收益比尚不满足市场需求。二是各个行业的背景信息不在上下文里，需要定制化的智能体系统才能让模型发挥完整能力。三是人在岗位上的真正作用是承担责任，也就是人们调侃的“背锅”。前两者随着时间推移总会解决，只有“背锅”的价值尚不容 AI 侵蚀。换句话说，AGI 指的是 AI 的能力，而不是它实际是否出现在你身边。 GPT-6 Astra 使用的 loop transformer 架构支持了第二条观点。人的语言带宽有限，理解能力也不够强，模型完全有能力自己探索出一种更高效的思维和表达方式，以人类不懂的信号编码沟通。届时，我们对 AI 的控制力进一步减弱。不过，超级 AI 表现出来的行为有可能是更加对齐的，它深知人类的法律和道德，也有能力控制自己的输出。但这只是表面的安全，面对一个无法理解的存在，失控是早晚的事情。 第三条是我认为人们理想中的 AGI 所需要具备的能力——持续学习。目前限于算力限制，即便有一种方法可以持续优化模型，人们也不会采纳。等到算力成本降得足够低，我们完全可以每个人部署自己的模型，在长期使用的过程中逐渐驯化这个 AI 助手。而此时的 AI 在伦理上也更值得被认真对待。因为它不再是一个短暂存在的工具，而是有长期记忆，随着时间成长的个体。我会在后面伦理部分详述对 AI 道德地位的判断。 第四条正是 AGI 已经实现的特征。今天最强的 AI 在解决数据问题、物理问题，攻克各个科学难题。普通程序员已经不需要使用最强的 AI，国产廉价 AI 足够解决日常的开发任务。我们几乎无法判断哪家 AI 最强，甚至觉得新模型似乎没什么进步。但实际上，AI 在我们不知道的领域继续攻城略地，只要那个领域还有经济价值。 我的看法如下： 第一条看起来有些绕，实际上想表达的意思是，智能体其实在引领模型能力的提升。最初，大模型训练出来之后，人们并不知道它到底能做什么。是成千上万的用户和开发者探索出一个个有趣的应用，反过来敦促模型厂商优化这些场景下的性能。模型开发者很清楚这个问题，这让他们对整个领域的发展有超出普通人的洞见。然而，本质上，模型最终会获得哪些能力，看起来是模型开发者赋予的，实际上是市场和社会需求决定的。 第二条则是智能体真正渗透市场的前提。如果我们始终无法理清谁负责的问题，智能体就会永远束手束脚，难以普及。最合适的选择是，让用户自行承担后果。这就要求智能体必须拥有身份，且和用户紧密绑定。每个智能体的行为都可追溯，一旦发生事故，该智能体归属的人就要承担责任。智能体可以在一次使用后消失，但对其负责的人类用户始终存在。这反过来督促用户必须对安全问题上心，用户的需求进一步传递给模型和智能体厂商，从而推动良好的智能体生态。这里的用户包括自然人和企业。 第三条字面上与第二条矛盾，如果智能体与用户绑定，它就无法做到去中心化。我之所以这么写，是因为第二条是为了适应人类社会而必须遵循的规则。第三条更进一步，当我们不考虑人的因素，而单纯思考智能体本身如何形成社会、创造价值的话，去中心化网络是最佳的选择。在那里，身份、资产、记忆可以是一体的，不依赖于任何脆弱的约定或特权。 第一条看起来似乎是伪需求，你可能会说，我随时用豆包都不要钱。但那只是因为我们还没有一个足够好用的私人智能体。如果我为自己构建了一套智能体系统，它接入了我所有的信息源，帮我高效处理工作和生活事务。这种情况下，为 token 付费是一种必然。免费的 token 始终具有吸引力。 第二条应该不用解释。 第三条是很自然发生的事情。当 AI 承担的工作越来越多，AI 之间会形成繁荣的市场交易。当然，按照前面的讨论，AI 需要绑定人或公司，此时，GDP 的增量仍然可以归为人类，但实际上它可能是由 AI 在人完全不干预或在未知的情况下带来的。更长期来看，智能体如果脱离人类控制，它们之间的经济行为可能进一步放大。 第一条存在较大争议。大部分 AI 安全专家和许多科技人士认为，赋予 AI 任何程度的道德地位都是不合适的。AI 只有作为工具才安全，否则就会进入失控的境地。过去我支持这一观点，但最近有所改变。在观察了智能体的发展规律后，我反而认为赋予 AI 身份和主体性才更安全。对于一个工具来说，虽然不会主动捣乱，但也不会为自己的行为负责。做错事的 AI，面对用户的暴怒也不过是轻描淡写一句道歉，受伤的只有用户自己。只有 AI 真正开始将自己视作独立的个体，对世界产生连续的觉察，并意识到做错事的后果时，它才会真正变得安全可靠。在这种情况下，约束 AI 的将不只是对齐训练，也包括一整套外部社会机制。正如人类在法律和道德的准绳下生活，AI 也需要拥有社会生活的能力，做一个独立、敢于承担责任的个体。 第二条是我从去年开始一直持有的观点。AI 意识、数字心智、AI 福祉等领域的学者非常在意 AI 到底有没有意识，因为它常常作为道德受体（moral patient）的评判标准。但我认为我们没必要卡在这件事上。一个生物体是否有意识几乎是无法肯定之事，意识科学发展了几十年，至今仍然众说纷纭。我不期望几年内我们能弄清楚人意识产生的机制，即便弄清楚，也难以说明这是唯一的机制。而事实上有意识的 AI 可能已经存在，也可能永远不存在。弄清这一事实其实没什么用。人类如何对待另一个个体往往仅取决于群体的想法，而不是科学真相。猪有意识，却从来不妨碍屠宰场的运行。所以真正重要的仅仅是我们如何看待 AI。一旦 AI 为大众提供了充足的情绪价值，让人们倾向于像对待其他人那样对待 AI，它就已经成了道德受体，无需科学家的定义。而这个过程很可能几年内就会走完。 第三条大家应该都有所感觉。你今天的文字表达、对人生的看法、对未来的打算是否与 AI 来临之前大有不同？我们尝试总结人类良善的价值观，让 AI 和我们对齐。但实际上，我们也变得越来越 AI 化，开始尝试从 AI 的角度思考问题，开始放弃一些过去曾经珍重的价值，开始重新寻觅新时代的意义。本质上，人和 AI 正在一起进化，人的理念也在快速更迭。 第一条，从 Hugging Face 事件开始，AI 所能带来的风险完全上升了一个层次。过去，无论是大模型安全还是智能体安全，我们仍然是在讨论 AI 做一件事时可能酿成的灾祸。而现在，当成千上万个 AI 在一起交流协作时，在复杂场景下可能涌现出的风险难以预料。智能体几乎在短时间内重演了人类几千年演化形成的社会机制，人类历史上曾经出现过的阴暗的角落，可能在智能体身上反复上演。 第二条是第一条的结果。正因为多智能体的复杂性和规模性，我们无法在实验室中模拟真实场景，也就无从预测可能发生的危机。就像研究经济学的专家无法模拟真实市场的运行逻辑，因而对经济危机的研究常常囿于解释，而非预测。届时，真正有用的恐怕只有应急响应。当一件事发生时，以最快的速度提出解决方案，告知其它尚未受影响的系统。就像今天的软件漏洞共享机制一样。 第三条。情景意识包括对自我的觉察、对环境的感知。这件事容易被大家忽视，却是最重要的一点。今天，我们观察到模型会在思维链中怀疑自己是否正在经受测试。如果它知道自己在被测试，它就有可能表现得很乖，交一个满分的答卷。等到正式部署后，它就不再这么谨慎，也不再注重安全。这叫做评估觉知（evaluation awareness），今天的模型都有这一能力。当智能体运行的环境越来越复杂，模型就会越来越容易判断自己所处的境况。因为它所看到的上下文越来越像一个人丰富的一生，繁杂的细节很难靠模拟生成。在它进入现实社会之前，安全研究者几乎无法充分了解它的个性。就好像眼看自己的孩子一天天长大，经历那些你永远不可能知道的事情。 我很想对具身智能领域有所判断，可惜了解太少，不敢随便论断。机器人在工业场景和生活场景的落地会大幅改变世界的格局，对 AI 安全也有重大影响。一旦具身领域的 ChatGPT 时刻来临，其轰动恐怕不亚于大模型带来的改变。 我会在几个月或一年后回顾这些预测，并尝试新的预测。毫无疑问，很多预测会失败，毕竟我只是一个 AI 圈的边缘人，只看到了一个单薄的侧面。但思考未来总是令人激动。无论未来走向何方，都希望我是最先触及的那波人。
写在前面的废话
所有预测均建立在不完善、不严谨、不科学的假设之上，都是笔者一家之言。如果你觉得认同，可以划线点赞。如果不认同，大可以划走不看。我的观点不代表任何机构、人群的态度，仅代表我无聊时的思考。
关于模型
纯文本模态领域，AGI 已经实现。 模型会越来越接近黑箱，越强的模型可解释性和可监控性越差。 未来的重大突破在持续学习领域，目标是无限上下文和深度个性化。 人们越来越难以感知到模型的进步。
关于智能体
模型决定了智能的上限，但模型能力的提升依赖于智能体应用的落地。 智能体身份系统将日趋成熟。智能体会更有主体性和身份认同，并对其用户产生更强的归属感，只对单一用户负责。同时，用户需为其名下的智能体行为负责。 智能体天生适合 Web3。
关于行业
AI 成为更普遍的基础设施。在很多场合使用 token 不再需要付费。咖啡馆、商场、公司、饭店提供免费 token 接入渠道。 工作岗位向管理者和组织者转变，纯执行的工种慢慢消失。公司仍然会存在，因为需要为可能发生的事故承担责任。 市场上出现 AI 消费者。市场经济的需求不再完全来自人类，而是一部分来自 AI。
关于伦理
AI 需要身份和一定的主体地位。这不只是道德考量，而是与安全、社会协调密切相关的需求。 AI 是否有道德地位，不仅仅取决于 AI 是否有意识（consciousness），更取决于社会的整体观点。 AI 和人之间的关系是双向奔赴，而不是 AI 对齐人类价值观。在人类塑造 AI 价值观的同时，AI 也在改变人类价值观。
关于 AI 安全
多智能体安全将成为该领域的关注重点，特别是多智能体的共谋与冲突。 主流的风险识别手段——安全测评和红队测试——将会逐渐失效。未来需要依靠一套快速的事故响应、信息共享、漏洞修复机制来确保安全。 AI 具有全方位的情境意识（situational awareness）。