龙虾现在很火,公司需要用他做一个专业的方案生成系统,领导思路就是有很多方案可以做,业务人员写专业的skill,开发人员写专业的生产数据接口,再接个大模型,班组人员就可以直接自己生成方案,实现降本增效了,思路很好,感觉完全是ai未来的大方向,我也在功能上初步研究了几天龙虾3.13的来源版本。
我的理解给大家分享下:
1.龙虾是一个架子,集成大模型,skill,mcp服务(需要额外装插件,我觉得mcpadapter不错.注意有个坑要接入Http stream的mcp服务,老的sse服务识别不了),核心就是个自由定制化的agent,用户只需要跟他交互即可完成任务,配置随心所欲。如果mcp服务绑定好了,启动网关,会在日志用看到[mcpadaper]加载了xxx.报告x个工具。
2.配置文件的形式基本就是md文件和json文件,md文件里面存龙虾的判断逻辑,json文件主要存配置和日志。
3.测试了下qwen32b来驱动,效果一般,低于32b的模型很难对话成功。
4.他的对话都会缓存到sesson文件夹里,很多时候他老是从历史对话中读取,这点记着强制清空下。
5.发现他调用tool(mcp)的能力比skills强,更愿意调用tool,测试了qwen32b qwen235b模型,发现一不小心就跑去调用tool,除非写的描述极端匹配skill里的description.不然怎么都是调用tool。
6.另外发现如果生成的方案如果需要依次调用很多mcp,mcp调用链的入参出参衔接基本能衔接成功,但是让大模型总结时候,会拼乱数据,即如果调用2个mcp的数据拼成一行,会错乱,比如第一个mcp返回三个结果1 2 3,123代入后第二个mcp返回a b c。很多时候最后拼的结果是1 b,2 c,3 a。这个目前还没找到好方法解决。
7.还有个他自己有自己的skill,默认加载的时候会后台加载内置skill,没有任何只是,我这边把内置的SOUl.md改了下,让他只说中文,skill调用优先,他就可以调用到方案skill了。
8.总体来看龙虾这个架子思路不错,但是不知道模型问题,还是skill写法问题,很容易找不到skill.
欢迎交流,v: wokong6686496
夜雨聆风