乐于分享
好东西不私藏

OpenClaw从入门到入土:拆解养虾成本,如何精打细算花小钱办大事 04

OpenClaw从入门到入土:拆解养虾成本,如何精打细算花小钱办大事 04

一.养龙虾的三种方式

既然已经明确了适用于项目管理的AI模型,咱们直接进入主题,启动养虾。

但是,深入了解后发现,养虾居然有三种方式:

1. 最简单的:云龙虾 + AI模型API(服务接口) + 本地APP应用 + 限制Skill

目前很多AI模型厂商,都推出了这种服务。说白了就是,龙虾都不用装在个人电脑上,直接在云服务器上装好。

你要做的就是给云龙虾开通个人电脑上的本地APP账号权限,然后在云龙虾界面配置好必要的参数以及Skill,就可以通过本地APP给龙虾发指令了。

这种方式的好处当然是方便省事,并且对个人电脑配置没啥要求,手机操作都行。

坏处就是除了要给token花钱外,还得每月掏钱租云服务器。

当然,服务器租赁费用倒没多少,难搞的是为了保证龙虾的安全性,云服务厂商限制了大量的Skill接入,导致龙虾能干的活儿,九年义务教育的漏网之鱼都能干,纯粹忽悠牛马血汗钱。

腾讯云龙虾的功能介绍毫无卖点可言

而且,如果含辛茹苦养大的龙虾不被自己掌控,跟长期陪老板出差的伴侣又有什么区别?

2. 最均衡的:本地龙虾 + AI模型API + 本地APP应用 + 无限制Skill

这种方式就是把龙虾安装到本地,然后接入AI模型的API,再把本地APP权限开放给龙虾,配上你要用到的Skill,齐活儿。

没有额外的云服务器租金,只用买token即可。对电脑的配置要求也不高,CPU好一点(i5),内存大一点(8G)就行。

唯一麻烦的就是得自己筛选Skill,后续再详细讨论如何操作,保护个人隐私,避免踩坑。

3. 最高端的:本地龙虾 + 本地AI模型 + 本地APP应用 + 无限制Skill

这种就比较牛逼了,直接把AI模型部署到本地电脑,自己给AI喂资料,训练AI。神功大成之后,连token的费用都剩下了。

当然,前期投入成本较高,AI模型训练和使用很吃显卡(GPU),现在市面上好一点的显卡动过万,配上好一点的CPU,大一点的内存,大一点的固态硬盘,导致一台能跑小AI模型的电脑在2万左右,服务器级别的至少在3万以上。

另外,还需要专人维保,人力成本也不低,基本都是公司在搞,个人不推荐。

总之,这三种方式各有优劣:

1. 第一种是持续性投入,而且收益不高,命运掌握在别人手里,属于低风险低回报。

2. 第二种也需要持续性投入,但自主权高,收益全凭个人能力,属于自己看着办不靠天吃饭。

3. 第三种前期投入大,持续投入高,但我命由我不由天,一旦成功,扬名立万,属于高风险高回报。

二.Token的收费类型

作为务实的项目经理,肯定首选第二种方式:本地龙虾 + AI模型API + 本地APP应用 + 无限制Skill

这种方式需要关注的成本就是token,中文翻译成词元。

顺带提一嘴,token这个概念不是AI首创,早在区块链盛行的那几年,就有token这个名词,那会儿中文翻译成数字代币,也就是数字货币的意思。

记性好眼睛毒的兄弟一定会在上一篇文章中发现一些端倪:

token分为输入token和输出token,并且两者的价格还不一致。

这里详细拆解说明:

1. 输入token就是用户给AI模型发送的数据,包括指令提示(Prompt),文档,图片以及视频等内容,AI去读取这些数据,花掉的token。数据越大,输入token越多。

2. 输出token就是AI读取完数据后,输出成果花掉的token,包括AI的逻辑分析以及最终呈现给用户的内容。同样,逻辑越复杂、成果内容越丰富,输出的token越多。

AI的逻辑分析:这也要花钱的

AI的成果输出:这必然要花钱

3. 输入token的产生是因为AI在理解用户的真正意图,输出token的产生是因为AI在给客户制定解决方案,并临时生成代码去实现解决方案。

4. 基于提问题简单、理解问题其次、解决问题最难的原则,输出token的单价一般是输入token的2~4倍。

5. 还有一个让人容易忽略的细节,那就是输入token还分为缓存命中token缓存未命中token。

6. 缓存命中指的是短时间内,发送相同的数据,唤醒AI模型的肌肉记忆,基本不怎么思考就能输出成果。这个短时间内具体是指5分钟以内,相同的数据具体是指你用了同样的Prompt,同样的文件模板。而不是意思相似,格式和表达方式不同。

7. 缓存未命中就是达不到上述条件的输入数据,都算做缓存未命中,AI模型得从头再来一遍。

8. 缓存未命中token价格是缓存命中的5倍以上。

旧人贬值好快

总之,输出token价格 = 2~4 倍缓存未命中价格 = 10~ 20倍缓存命中价格。

拆解完token类型,接下来该制定针对性的低成本养虾方案。

三.如何精打细算养虾

此刻,醒目且贫穷的牛马脑海里应该有了精打细算的方案:

1. 采用本地龙虾 + AI模型API + 本地APP + 无限制Skill的方式养虾。

2. 如果是给公司花钱养虾,AI模型就用Kimi 2.6;如果是自己养虾,就用Doubao-Pro。

3. 给龙虾多配套一些skill,让AI模型不用临时生成代码去解决问题。

4. 多用缓存命中token,尤其是针对那些重复使用的指令,单独编辑成Prompt文件保存起来,方便调用,且保证Prompt的一致性。

5. 实在不行,就把缓存未命中token写得详细一点,让AI模型少动脑。

算一下总体成本:

1. 一次性投入:6000元,这是常用办公电脑配置的价格。

2. 持续性投入:Token费用预计在每月250 RMB(按平均每天做25个制定项目计划这种难度的任务评估,每个任务花费0.4 RMB)

以后这种局不要找我,我要攒钱买电脑

四.总结

很多人对AI有个认知误区,尤其是很多老板,认为它就是廉价优质且不抱怨的牛马,花点小钱就能用。

结果就是捣鼓了半天,发现钱也花了,产出的成果却不尽人意。最后不得不放弃,重新启用牛马。

归根结底,就是他们不懂AI的使用逻辑:

想用AI之前,得把AI当做儿子一样培养。

你得给AI制定规矩,传授经验,灌输知识,配好工具。它成长起来后,才能帮你干活儿。否则,也只能让他打打酱油。

至于如何养AI,其实前文早已明确过:

1. 通过Prompt中的约束条件给AI制定规矩。

2. 通过Prompt中的任务流程给AI传授经验。

3. 通过给AI模型喂各种文档来灌输知识。

4. 通过给AI接上Skill来配好工具。

有关龙虾的概念认知到现在已经聊得差不多了,接下来,咱们进入实操环节,从安装部署开始,真正把龙虾用起来。

敬请期待。

(未经本人许可,请勿转载或商业用途)