把AI助手调教成了“省钱又聪明”的摸鱼搭子记录

01

之前版本最大的问题是会话没有“长期记忆”。

聊到第20句，它就已经忘了第1句我跟它说了什么。每次都得把前因后果再复制粘贴一遍，比跟甲方解释需求还累。而且每次对话都全量把历史记录发回给大模型API，token消耗快得跟烧钱一样。

于是这次升级，我给它定了三条“军规”：

这三条看似简单，但实现后效果立竿见影。

02

以前我给AI下指令，它就像个黑盒——我发完消息，它沉默十几秒，然后突然吐出一大段结果。那十几秒里，我脑子里会上演80集连续剧：“它是不是死机了？”“我是不是问错话了？”“网断了？”

现在不一样了。它会把思考过程分步骤展示给我看：

每一步都清清楚楚。我甚至能在它“跑偏”时中途叫停，而不是等到最后才发现成品不对。这种感觉，就像从“盲盒式聊天”变成了“跟助理对进度条”。

03

现在我的AI助手能处理超长对话了，而且成本反而降了。

举个例子，我跟它讨论了20轮关于“如何设计一个科技感公众号排版主题”的问题。到第15轮时，我让它“按刚才讨论的风格，把这篇新文章排版”。它迅速生成，而且风格统一。

我抓包看了下它发给大模型API的请求体，发现它只带了最近10条对话+一条由前10条生成的摘要。这个设计妙在：

省下来的不是小聪明，是可持续地长期调教

前10条里的关键信息（比如用户偏好的配色、字号）被摘要保留；细节信息（比如某次打错字的指令）被丢弃。对比之前动辄就发送几千token的“全量对话”方式，现在经济划算得多。

04

我的AI平台支持安装“技能”（skill），每个技能都是一个文件夹，里面有配置文件、模板、说明文档。比如“公众号排版”技能，里面包含：

theme.csstemplate.htmlrules.md

以前一启用技能，AI就把所有这些文件都塞进上下文。小技能还好，大技能动辄几十个文件，还没干活，先把token浪费完了。

现在改成了按需读取——当AI判断“我需要知道有哪些主题可选”时，它会调用skill_read_file去读themes/index.json；当它需要应用某个具体主题的样式时，再去读对应的theme.css。

整个对话过程中，它只读取了真正用到的3个文件，而不是全部26个。

05

经过这三天的调教，我的AI助手已经能稳定提供两项核心技能：

06

这三天让我深刻体会到：AI不是魔法，它更像一个聪明但缺乏经验的新员工。

你要告诉它“带摘要”的规则，它才知道怎么省token；你要教它“按需读文件”，它才不浪费资源；你要让它“回显思考过程”，你才能及时纠偏。

那些抱怨“AI不好用”的人，多半是把它当搜索引擎用——问一句，答一句，从不调教。而愿意花一个周末去教它、改它、优化它的人，最终会得到一个越用越趁手、越聊越懂你的数字助理。

∞

如果你也在折腾自己的AI平台，我建议你优先实现这三个功能：

这三个改进，代码量不大，但收益极高。

如果你觉得今天这篇有收获，欢迎点赞、在看、转发三连，我们下篇见。