AI,赋能汽车涂装(4)
Ragflow装好了，Graph功能也上了，烦恼也就开始了。首先是选择大模型问题，大模型大模型，当然是越大越强大！问Deepseek，我的电脑上个30B大模型能不能成？可以。马上行动，先装个OLLAMA做底座，然后下载30B大模型，很顺利，问个问题，电脑秒关机。重启再来，还是秒关机。为啥这样？Deepseek给出长篇大论，大意是，你的两米桌子放一米九的鸳鸯锅没任何问题，可是你还要放羊肉牛肉冻豆腐，盘子碗筷子酒瓶烟灰缸，所以不行！这个白痴AI，为啥不早告诉我，害得我又浪费九块九。换小一号的14B，这下可以流利问答了。把单独使用能流利问答的14B放进Ragflow，系统开始崩溃。换个方向，问GPT，GPT说是并发问题导致的。
问题明确了，答案也是理所当然，把并行改成串行就OK。说来容易做来难，咋落地呐？要改的文件叫啥？文件存放在哪里？用哪个软件能把它打开？问题出在哪一行？如何更改？大模型永不崩溃，有问必答，可我扛不住啊！多一个空格少一个括号，或者文件格式不对，就会报几十个错误，我一个外行把这个问题理顺当，估计还得一个月以上。
幸而万能的🦞这个时候诞生了，马上安装，以后的工作全部让龙虾来干！并行工作都改成串行，几分钟搞定，14B真的是悠闲了，可工作进程太慢。再改，14B改成8B+9B，一个任务砍成两段，分包给两个模型，就像把鸳鸯火锅分成两个，先吃清汤的，再吃红汤的。还是慢啊，再改，改成开Ollama和vLLM两桌，然后又加这个添那个，合计有两个底座，图片理解模型、图片检索模型、嵌入模型、排序模型、路由模型、大语言模型，六个模型，好用不好用呐？还真不好说，答案是我做的，所以，我抽的题目它都会，别人问的问题，我不清楚，欢迎大家试试。
网传，大模型已经萃取了全人类五千年的知识，让它说不知道很难，所以，我专门给它预设了这个功能。检验了一下，龙虾操控的大模型确实有很大进步，比如，你问Deepseek，GPT最新模型比Deepseek领先八个月，对吗？Deepseek会说，大哥，你别为难我，我是Deepseek啊！
讲AI，龙虾是绕不过去的话题，一句话，装上龙虾，确实不需要程序员了，只要下一句指令：给我搭建一个带Graph功能的Ragflow，几千行代码秒写完，两小时程序搭建好调试完，把你的文件拖进去，输入问题，秒出结果。前提是，你身边有一个程序员维护龙虾。
龙虾是啥，就是一个模型，专门指挥别的模型干活儿的模型。
今天手握一只养肥的龙虾，明天AI才能赋能汽车涂装。
夜雨聆风
