ARTICLE · 987031
AI自进化
AI自进化Recursive self-improvement(RSI) 递归自进化，今年在硅谷爆火。RSI出现的原因，是AI行业发展太快了。 从prompt engineering，到goal、loop、RSI，各种AI新概念层出不穷，看的人眼花缭乱，AI焦虑遍地都是。我们换个角度来看，不看表面，看看更本质的东西。 每个行业在发展过程中都会有新东西、新概念、新研究、新方法，也包括各种错误的、淘汰的、更新换代的等等，回看各个学科行业，都是一样的，区别在于，有的行业要走几十年，而AI的发展速度太快了，几年就走完了其他行业十几年甚至几十年的发展历程。基础模型已经更新了很多代，agent也更新了很多代，只是我们可能还不适应AI的速度，不过，以后可能更快～ token+agent的发展，换个角度看，可以类比一个人的打怪升级之路，从小学到中学到大学再到博士，几年的时间，已经超越了博士的平均水平。我们普通用户也可以体验一下做老板的感觉了，给你n个博士生，如何让他们好好干活？ 这些概念发展的本身，还是因为底层token能力的提升。早期模型能力不够，需要很好的设计prompt，随着模型能力的提升，一个goal就可以自己跑几个小时，甚至几天，RSI其实就是在模型和agent能力提升到一定程度，然后用到模型优化本身，形成了一个闭环。所以，这里面的核心，一个是基础模型的能力，一个是agent harness，也就是我们说的token+agent。然后，只有形成了闭环，才能充分发挥agent的能力，开环任务本质上还是一个大号的ChatGPT，人需要去作为这个闭环的一环，而人就成了最大的阻力。当系统可以自己闭环，那么agent便可以24/7不停的工作，可以从1个agent扩展到无限多agent，所以我们可以把这个理念用到任意的场景、任务，就可以实现10x的效率提升。这其实和Karpathy之前提出的autoresearch是一样的道理，一个受控的环境，5min就可以拿到结果，根据结果分析，规划下一次的提升，一个晚上的时间就超过了人类调参效果。所以，算法优化确实是agent一个非常好的应用场景呀。Wafer Agent也是一个不错的案例，把模型部署优化到vllm/sglang开源基准的几倍效果。 上一篇讲到OpenAI解决NS猜想，这里有几个条件，第一是他们知道千禧的题目里面有一个基本上确定可以解出来了，第二个是lean4的数学形式化验证语言，最后就是OpenAI的内部新模型和几乎无限的token算力，我们没有这些条件和资源去解一个世纪难题，但是我们可以做一些更实际的任务。 KiloSort 4是神经科学领域用的比较多的一个spike sorting算法，虽然是针对gpu设计的，但是跑起来居然只比cpu版本快1倍，显然是非常不合理的。当你有大量数据需要跑，哪怕提升50%也是很好的事情。所以，我们在让agent去研究一下，把目标设为10x，然后我们得到了一些结果，虽然速度提升了很大，但是质量下降严重。这是不能接受的，我们把目标设定为不降低质量的前提下，去尽可能提升速度，然后我们得到了2.3倍的速度提升。 我们来反思一下这个任务，第一这个任务是可行的，有明显的提升空间，第二我们是有明确的验收标准的，就是ks4原版开源算法以及全部输出，第三是我们有限的token资源。OpenAI的blog介绍了一些更具体的过程，简单来说，先派一些agent针对几个千禧猜想去探索，也是广撒网，当解决了其中的欧拉问题后，开始投入大量资源重点研究NS问题，最终解出来后，让codex gpt6花17个小时做形式化验证收尾。 对比一下，我们明确目标任务优化ks4，而且确信这是可行的，但是不确定能提升多少，具体如何优化，所以我们派一些agent先去测试、探索、总结，把ks4整个算法流程都研究一遍，寻找ROI比较高的部分；然后，我们发现数据从cpu到gpu的传输非常耗时，但是这个不影响算法的准确性，当然还能找出来很多，这里我们最终按照ROI进行排序；第二步就是派agent去根据ROI的排序去做优化，但是要把标准定好，原版ks4的结果就是我们的baseline；最后就是收工汇总，结论是2.3倍。这里的每个环节都可以用n个agent去提升效率，同时用多个模型交叉验证。 所以，我们用一个类似于OpenAI一万个agent解题的过程，来做一个算法的优化，将原本需要专业人员大量人工耗时的任务，变成一个不到一天就能完成的任务，而成本只有几块钱。硅基智能 is amazing. 总结一下，AI新概念的出现，是伴随着底层能力的提升而产生的，GPT4必须要prompt engineering，而GPT6就可以实现RSI。 那是不是我们晚点入场，直接进入GPT-xxx时代，岂不更好？那还有你的什么机会呢？所以我们应该学习的是Manus，提前半年甚至一年就准确预判了AI技术的走势，然后，产品领先行业一年。。。 下一篇，展示一个更复杂的应用案例，让agent去开发和维护一个真实的软件系统，实现我们自己的RSI。