夜雨聆风学习资料网

ARTICLE · 1294369

AI进步太快,我写的Skill先老了

AI进步太快,我写的Skill先老了
最近抖音刷到一个短视频,说现在好像没啥人提SKILLS了。

看底下评论,牛马们纷纷表示,SKILLS已经被AI的进步淘汰了?

我看到这里,心情有点复杂。

毕竟今年,我还花了不少时间整了七八个SKILLS,一度还蛮有成就感。

我这边刚从暧昧期过渡到甜蜜期,你们就开始讨论埋在哪里了?!?!?!?!?!?!?!?!?!?!?!!?。

AI这行,多少有点不顾中老年人的学习节奏。

好吧,还是有点羡慕没接触过SKILLS的小朋友,后发优势果然恐怖如斯。。。可能这个时代,我们要更习惯“优越感”被快速清零——没加个负号就不错了。

看到这个视频的时点,晚上十二点十分,和很多中登们一样,这其实是我“睡前刷几个视频然后迅速起了困意,秒入睡”环节的收尾阶段。我登时睡意全无,开始搜索,研究,试图搞清状况,看能不能为那些搞不好白瞎了的时光挽尊。

好吧,感谢这些歹毒的抖音号,差点又让我度过了一个心力交瘁的不眠之夜。

好在,经过研究,思考,这个观点,应该只说对了一半多一点(请允许我把一大半适当的偷换下概念)

结论应该是:

之前 skills 里面教 AI 做事的部分基本上是凉了,其他关于业务层面的要求,还有希望保留。在一些细分行业,完整的skills还有希望苟延残喘一段时间。

下面详细说说:

我们写进Skill的内容,经常混着两类东西。

一类,是为了弥补模型当时不会、做不好或者做不稳的地方。

怎么理解材料,怎样处理长任务,怎样选择工具,碰到某种情况再做哪一步。

这部分随着模型和HARNESS的迭代,很可能经过一段时间,AI优化并标准化了这一大类流程,不但解决了之前的问题,还提出了更优解,你的旧规则反而束缚了AI。

另一类,是我们要求它遵守的业务规则和交付标准。

比如哪些项目必须检查,采用什么口径,什么问题必须报告,结果怎样留痕,以及这次只出复核意见,能不能直接改原稿。

模型再聪明,也不会自动知道每家事务所、每个项目的具体要求。

我不由得回想起我曾经自己创建过的还挺自豪的3个 skills

一个是关于投标文档撰写的 skill。

我们的不少招标文件要求投标的事务所可能要写审计方案、质量保障措施、保密措施等多个文档。我一般是这样处理的:

1. 先用一个强力的大模型阅读招标文件,把这七八个文档的提纲和具体要求详细写出来。

2. 然后让 Work Buddy 之类的智能体按照这个去写。

因为有的时候几个文档加在一起会达到 10 来万字,后面WORKBUDDY撰写过程中很容易出现注意力不集中、漂移、不按提纲写、注水的情况。所以我做了一个SKILL,并反复的测试,反复修改(可能已经有朋友们想到了这个过程中token的炸裂和时间的煎熬)。历经数个夜晚,最终搞出一套相对能让 Work Buddy稳定提升表现,相对更听话地执行提纲和写作计划的SKILL。

然而现在想想非常明显,这个 skill 的主要价值来自于之前 Workbuddy 之类的工具在长任务中不稳定,HARNESS在上下文后期可能不能提供可靠的束缚。但是毫无疑问,这些是很容易在模型增强和 harness 的进步过程中优化的。

于是立马开干,找出一份之前同一份大模型写出的提纲和提示词(要写8个文档,每个2万字左右),让WORKBUDDY按我的skill和不按SKILL分别执行。

最终的结果,提交大模型分别判断。

考虑到还不想猝死,先只测试一次吧。虽然已经有了一点心理准备,但结果还是。。。不执行skill,给出的结果略强。

好吧,虽然只是一次测试的结果,但是还是有一定的说明意义。

再回想一下,之前我跟一个朋友一起开发过一个 skill,就是对财务报表审计报告的复核。因为本身财报审计脱敏是相对容易的,之前复核的难点主要是:

1. Word 版本附注的复核,尤其是加减,合计数,勾稽关系;

2. 跟报表的对应;

3. 是否列示完整。

借助大模型和几次测试开发的 skill,脱敏之后的财报复核效果还是蛮显著的。

然而,我清晰地记得,有一次一位同事忘记加载这个 skill,直接让 Work Buddy 开干。复核的结果相当不错,还找到了一个合理性的问题:那个单位的固定资产总额很大,主要是设备,但是连续两个年度每年提的折旧额连 1% 都不到。Work Buddy 提出了这一点非常不合理,后来经过验证发现确实存在问题,但是我们的 skill 并没有发现这个情况。

现在看来,当时没太引起重视的这个例子已经在给我们敲响警钟了。

最近一两个月,其实我还挺自豪的,开发了一个 OCR 识别的 skill。主要是针对一些比较复杂的扫描件(比如既有文字又有表格,且需要高精度,同时尽量减少人工复核),我搞出了一套识别规则:

1. 初步识别:用一个视觉模型先看一遍,或者用本机的 OCR 工具先看一遍,再用另外一个复核一遍。

2. 局部放大:对于不能确定或不清晰的结果,采取局部放大处理。

3. 视觉模拟:后面再用视觉模型模拟人眼,对仍不能裁决的结果再看一遍。

4.结合上下文和逻辑关系定位疑点,再回到原图或其他可靠资料核对。仍不能确认的,标注待核。

5. 人工复核:如果依然搞不定,必要的内容再交给人工复核。

这个流程经过反复测试,效果是非常 OK 的。

但是现在想想,如果 AI 再迭代迭代,harness 再发展发展,这个场景很可能会有更好的解法。我这个 skill OUT其实也只是时间问题。

好吧,原来我开发的最自豪的几个 skills ,里面的内容,基本上都是在教 AI 做事儿。

下一步该怎么办?除了祝之前还没太研究过 skill 的朋友们好运,意难平一下这该死的后发优势。我想眼下更现实的是,要更重视对很多业务流程或业务场景里,业务逻辑、成果边界和交付标准的沉淀。这个也许才是以后 skills 最值钱的部分,也就改由我们为很多重要的场景和流程去专业定义的。

看来,

AI升级得这么快,经验也得跟着经常更新改造,甚至推倒重建。

想想倒也挺符合咱们的职业习惯。

无形资产这个东西往往是有寿命的,减值也是家常便饭。

就是没想到,自己的Skills,比自己先出现了技术性贬值。


AI智研坊|正经研究,顺便吐槽。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料