ARTICLE · 1069352
AI² 塔尖会复盘:热闹的 RSI 自进化,现实落地仍横亘多重硬核关卡
导语：张江「AI²：当 AI 学会自我超越」技术沙龙汇聚国内 RSI 领域一线研究者，围绕 AI 自我迭代展开多场分享。当前递归自我改进概念热度持续走高，但从论文原型走向可用系统，还要跨过模型、数据、安全、评测一系列现实阻碍。整场活动清晰展现：国内 RSI 研究已经多点开花，但距离真正实现 AI 自主变强依旧路途遥远。
🔖关键词：RSI 递归自我改进、AI² 塔尖会、Agent 自进化、代码大模型、AI4Science、自我迭代
📍 RSI 概念爆火，但大多成果还停留在原型阶段
现在不管是大厂还是创业团队，都在布局递归自我改进相关研究，各类开源框架、原型模型层出不穷。但沙龙现场多位研究者达成共识：行业存在一定概念泡沫。
不少演示效果，高度依赖人工干预、精心挑选的测试用例，换到开放真实任务环境效果会大幅下滑； 很多项目只完成局部环节迭代，比如仅更新提示策略、规则库，还没有打通数据‑框架‑模型权重完整闭环； 大家很容易把 “AI 辅助人类做研发”，和 “AI 完全自主自我改进” 两个概念混为一谈； 缺少统一公认的评测标准，各家实验的数据集、沙盒环境各不相同，成果很难横向对比。
简单来说，现在我们看到大量 RSI 原型可以在限定条件下展现自我提升，但是放到不受控的真实任务，稳定性会迅速崩塌。
⚙️ 沙龙拆解：几条相对可行的 RSI 落地路径
现场分享把当下国内的自进化探索，划分成三条主要实践路线，不同路径难度、收益各不相同。
路线一：代码大模型优先落地 Model‑RSI
代码被认为是最容易跑通自我迭代的场景。模型编写程序、运行代码、接收报错反馈，基于失败日志修正自身。 这套路径的优势：反馈信号明确，代码运行对错可以被机器自动判定，不需要大量人工标注。 但现实阻碍同样突出：复杂工程任务的验证成本高；仅仅依靠报错信息，不足以定位深层逻辑缺陷；还会遇到灾难性遗忘，迭代之后旧编码能力退化。
路线二：AI4Science 领域，科研 Agent 自我迭代
面向生命科学、材料等科研场景，让 AI 智能体自主完成文献检索、实验设计、结果分析，从实验反馈当中迭代自身策略。 这条路线的痛点在于：真实科学实验成本昂贵，没办法无限试错；实验反馈存在大量噪声；很多科研结果没有明确的 “对错” 二元判定标准。
路线三：Harness 层迭代，不改动模型权重
不去触碰底层模型权重，只迭代 Agent 调度框架、规则库、安全记忆、工具调用策略。也就是只进化外层执行系统，基座大模型保持不变。 该方案工程风险最低，不容易出现权重崩坏；但能力提升存在天花板，只能优化使用方式，无法改变基座本身的固有短板。
通俗总结：改代码、做科研、调外层框架，是目前国内团队主要探索的三个方向；完整全权重自主迭代依旧属于远期目标。
🧩 圆桌抛出 RSI 四大绕不开的硬核难题
圆桌讨论环节，研究者集中点出现阶段 RSI 的四大共性瓶颈：
- 裁决器天花板：自我改进的好坏需要裁决模块判断，裁决器本身能力上限，直接锁死整个系统的进化上限；裁决不够强，迭代只会越跑越差。
- 反馈噪声问题：真实世界返回的反馈并不都是准确无误，错误、矛盾、有误导性的反馈会污染迭代过程。
- 安全隔离成本高昂：高风险自我迭代实验必须运行在隔离沙盒；一旦放开权限，就有可能产生不可预期行为，而沙盒会带来巨大算力与工程开销。
- 收益递减效应：前期迭代能力提升明显，越往后每一轮获得的增益快速收窄，很难无限持续变强。
与会嘉宾反复强调：原型能跑通，不等于可以放大到复杂真实任务。很多小样本测试看到的提升，扩大任务规模之后就会消失。
🚀 三类 RSI 实践路线对照
表格
三条路线并非互相排斥，成熟系统未来很可能是多种模式组合使用。
📈 行业启示：理性看待 RSI 热潮，分清演示与现实
RSI 递归自我改进已经从海外传导到国内，本土团队已经在代码、科学智能、Agent 框架多个方向布局，但整体仍处在早期原型阶段； 区分两个概念：「AI 辅助人类研发」≠「AI 自主递归自我改进」，很多宣传属于前者，距离后者还有很大距离； 评判 RSI 项目不能只看演示 Demo，重点要看：是否开放完整沙盒环境、测试集是否通用、是否做过大规模非精选样本验证； 安全沙盒、裁决校验机制不是附加功能，而是 RSI 系统的核心底座，没有安全约束的自进化实验具备极高风险。
📝 结语
这场 AI² 塔尖会，给火热的 RSI 赛道做了一次冷静的本土复盘。
递归自我改进概念非常诱人，大家都期待 AI 可以不断从经验当中自我变强。但现实是，无论是修改模型权重、迭代科研智能体，还是优化外层调度框架，每一条道路都要面对裁决、噪声、安全、收益递减等重重关卡。
原型可以跑起来，不等于可以大规模落地。国内 RSI 已经多点开花，但距离真正实现持续、可控的自我进化，还有大量工程难题等待攻克。