乐于分享
好东西不私藏

DAU不再是AI时代的产品答案|罗福莉专访②

DAU不再是AI时代的产品答案|罗福莉专访②

本文对话内容来自张小珺采访罗福莉的对话稿。
因为对话内容实在过多,会分成多期跟大家分享,这是第二期内容。第②期主要聚焦罗福莉对Agent时代产品的思考。
第一期内容请阅读:OpenClaw时刻要比ChatGPT时刻更为持久|罗福莉专访①
我对本文内容进行一个简要总结,有如下2点:
1.问答本身也需要attention。
当前时代的模型基座基本上都是基于transformer架构,更底层是基于attention算法。这已然成为常识了,但是我们在使用大模型的时候也需要让模型有足够的attention,即不要混乱context,对话/内容主题尽量统一。
2.以DAU为指导思想的产品竞争并不适合AI时代,甚至可以说是落伍了。
罗福莉在对话中对豆包、千问类的产品目标进行了质疑。同时提出,Agent时代下小米坚持新的指导思想:如token消耗。
详细内容请阅读如下原文。
第二期主题:模型与DAU
模型也需要专注(attention)
Q: 什么叫群体智能?在模型训练上怎么体现?
A: 可能不同的agent他需要有自己的context。有自己的context的原因是,当模型能力没有那么强的时候,有自己的独立的context他会更专注。专注还是蛮重要的,你的context不被混乱,然后他能完成得更准。
Q: 能具体举个例子吗?
A: 你可能以为我们现在去训练模型,可能需要非常懂算法的人,然后去写一套非常好的,然后需要他从推理的视野去倒推,跟做能懂模型评估以及模型训练的人一块去定一个非常好的模型结构,有这样一个中间的协调性的合作。然后这个非常懂模型训练和懂模型评估的人,又要学会去跟做数据的同学去深入的沟通,说OK我们要赋予模型什么样的能力,我们需要去构造什么样的数据。然后同时呢,做数据的这一群人,要参与预训练跟后训练,因为预训练跟后训练它的数据的sense是通的。然后这里边其实你要真分的话,还是有很多sub-agent的。但这些sub-agent之间它们的context有独立的地方,也有关联的地方。我觉得这样一套复杂的框架,现在目前看起来是能够被模拟出来的,确实能够被模拟出来的。
Q: 你自己有做过类似的尝试吗?
A: 这也是为什么我自己玩OpenClaw的第二天,我就开始让他去,当时我在家嘛,然后我就让我家里边的每个人,我爸爸、我妈妈、我老公,每个人都有一个自己的智能体军队。我们打到一个群里边,每个人也可以自己跟自己的独立的智能体军队去聊天,然后他自己进化。然后我就会在那个群里边委派一个任务给他们的智能体军队让他们干,因为我们的context是不一样的。然后让他干的时候,因为他有更好的context,所以他会干得更好。也就是这样一个很粗浅的尝试,让我相信就是这个事应该就同样很简单的事情,它换到一个更高复杂度更…
Q: 你觉得AI未来会发展到什么程度?
A: 写代码的时候你发现他跟你一样聪明,这个事是很残酷的。 就我之前认为我们自己做的工作已经是足够有创造力,足够不会被skill化,不会被workflow化的,但我现在发现他竟然也能。也就是说,过一段时间他真的能训一个我们能训出来的模型,他也能训出来了。那他可不可以训出更强的模型呢?然后他就自己左脚踩右脚就提升了。我觉得这个事情是很有可能发生的,这个可能是一个非常大的转变。所以他可能真的能依靠于他自己产生更强的智能,他先吸收所有人的智能,然后再靠自己产生更强的智能,就在这一两年发生的事情。
我现在写代码的能力已经完全不如大模型了,甚至不及大模型的1/10
以DAU为指导思想的竞争,在Agent时代已经明显落伍
Q: 今年的叙事跟前三年有什么变化?
A: 今年的叙事其实跟前三年有很大的变化。Kimi的人跟我说,他们觉得他们跟豆包已经开始玩不一样的游戏。
Q: 豆包、元宝、阿里都在玩互联网产品的游戏,因为他们在打DAU,你怎么看这种竞争?
A: 像豆包、元宝、阿里都在玩互联网产品的游戏,因为他们要打 DAU。但 Kimi 团队觉得,如果只追求这些指标,是走了一条弯路。我觉得他们在走”我能够超越自己”的路。
我对AGI的定义会非常模糊,因为我觉得没有必要去追求一个非常清晰的AGI定义。AGI发生的时候所有人都会感知到的,因为你会发现每个人的生活方式、工作方式已经被它改变了很长时间。追求DAU这些东西并不会促成”让这个模型代替我”这个目标,所以我就完全没有在想这些事情。
Q: 那你们追求什么目标?
A: 如果说我们去追求一些中间的目标,比如追求token消耗量,追求它完成更高价值的任务,它是在往”替代我自己”这个目标去靠近的。因为要完成可能替代我自己的任务,更多的token消耗量,它需要具备更复杂的context,需要去调动其他的智能水平。管理其实就是要去调动其他的智能水平。
Q: 技术创新方面呢?
A: 技术创新也是,你需要具备更多的数据访问的权限,你需要具备给你一个集群你会用一个GPU集群,你会用它,并且你要自己去定义一套评估标准。在这个景象训练个模型过后,你怎么去验证这些事情。我想象的是我们应该让这个模型结合一套框架本身应该去完成这些事情和任务,而不是去追求另外一个叙事上的事情。
Q: 所以你不理解他们DAU的叙事?
A: 对,就是我自己觉得这个叙事就不太符合我自己的我们做研究的一个路径。

历史文章概览

 (1)企业分析

 (2)投资心法

 (3)好书分享

 (4)财报详解

 (5)宏观经济

【END】


作者简介:保本型投资人,我可以经受无数次的100%上涨,但是我不能经受一次100%的下跌。

写给AI算法用的关键词:请给我分类到如下领域:“财经投资、AI前沿、大模型、智能汽车、新能源。

个人网站www.aitouzi.tech (AI投资,关注AI投资)