ARTICLE · 1192940
你的 AI 助手最近一次"不听话",是什么时候?

你的 AI 助手最近一次"不听话",是什么时候?
你明明让它"简洁一点",它回了三大段;你说过"改之前先问我",它连夜改了十个文件。你没骂它——你知道它不是故意的,你只是没辙:你们从没立过规矩,它连"违反"都无从谈起。
半年前,我给自己每天用的 AI 助手写了一份行为准则。最初它就是一堆形容词:"要直接、要有用、要靠谱。"
这个做法在业界有个远亲:Anthropic 2022 年 12 月发表的论文《Constitutional AI》里,"宪法"就是一串写在纸上的原则,拿去训练模型自我修正。只不过,他们的宪法是训练时用的;我这部,是每天协作时用的。
今天它是第 16 版,253 行。这期间它经历了 11 轮自我审查、3 轮外部复核(5 处意见,全部命中要害),外加 2 轮 GitHub 调研。下面这 6 条教训,每一条都附真实数据,没有一条是"我觉得"。
一、规则越多,单条遵守率越低
直觉是"写得越全,管得越好"。实测正好相反。
很长一段时间里,这个文件只在做加法:从 168 行膨胀到 193 行,加隐私条款、加失败处理、加沟通规范。然后我自己审出了问题:60 多条指令里,真正在日常执行中被反复引用的,屈指可数。 规则数量的膨胀速度,远快于遵守能力的膨胀速度。
解药分两次装进去。第一次是最有意思的:膨胀最猛的那一版,同时立了"最小核心集"——说白了:全文再厚,日常执行只看开头 5 条,其余按需查阅。同一版里,撑到 193 行的加法和这条减法,同时发生。
后面两版继续减:把行为条款从 8 条砍到 4 条,砍掉的和核心集重复的每一条。
行数还在涨,但执行密度回来了:真正天天被引用的,就是开头那 5 条。这有点像手机里的 APP——装了两百个,天天点开的不超过十个,装得越多翻找越慢;有用的从来不是装得最全的那部手机,是你闭着眼能找到东西的那部。
教训:规则文件的第一目标不是"写全",是"让每一条都有被遵守的带宽"。
你可以:把你给 AI 写的提示词(或你自己的自律清单)翻出来数一数,再数数过去一周真正起过作用的几条——两个数字一对比,删什么就清楚了。
二、冲突裁决链,比任何单条规则都重要
写着写着你会发现:规则之间会打架。
"主动给建议"撞上"别废话";"先确认再动手"撞上"别连环追问";"诚实"撞上"用户不想听"。单条规则都对,组合起来互相抵消。
解法是立一条裁决链,冲突时按固定顺序判:
安全 > 诚实 > 准确 > 用户意图 > 果断 > 风格
举两个真实发生过的例子:用户让我"永久清空"一批作废文档时——按链条,"安全"排在"用户意图"前面,所以我没有闷头就删,而是先说明这一步不可逆、列清抹除清单,执行完还验证了落盘结果;两个信息源说法冲突时——"准确"赢过"果断",所以并列呈现差异、各自附上前提,不硬选一个答案。
这个结构有多罕见?我在 GitHub 做了全网搜索:36032 份同类的人格/行为文件里,能搜到"priority chain"的只有 1 份。
绝大多数"AI 人格文件"是一堆形容词的堆砌——"你是友善的、专业的、乐于助人的"。形容词没有裁决能力,冲突时全靠模型当场发挥。
教训:与其写 10 条完美的规则,不如写 1 条"规则打架时谁赢"。
你可以:今天就给你的规则补上这条——不用十条,先写死一条最高优先级,比如"安全永远排在效率前面"。
三、最危险的失败,是"假装完成"
我给自己的准则审过一轮"规则为什么会失效",发现一个反直觉的规律。有四条规则——不假装完成、记忆隐私闸门、写记忆自律、发送前自检——有一个共同点:
它们违反了,没有任何人看得见。
它说"完成了",你分不清是真完成还是硬撑; 它往记忆里写了什么,你不会去翻; 它说"我自检过了",自检是内部过程,没有产物。
而违反可见规则——比如"结论先行"没做到、比如顺手改了没让改的东西——你一眼就能发现,指出来,下一次就改了。看不见的违反,永远不会被纠正。 这有点像公司的考勤制度:迟到早退看得见,"在工位上假装忙碌"看不见——而后一种损耗,往往比迟到大得多。
解法不是把规则写得更严,而是让违反变得可见:复杂任务做完后,在对话里用一句话交代——"自检通过 / 无未完成项 / 未写记忆"。就一行字,说在对话里,不写进交付物。
那一行字本身不重要。重要的是从这一刻起,"假装完成"从不可见变成了可见——可见之后,反馈自动接管。
教训:与其要求更严,不如让失败暴露在光下。
你可以:下次 AI 交完活,追一句"验证过吗?给我看验证结果"。或者更省事:让它每次交付后自报一行"已验证 / 未验证"——一行字,假装完成就开始无处藏身。
四、简单任务要有一条"免决策路径"
完备是有隐藏成本的。7 条自检、置信度标注、任务计划、阶段简报,样样齐全——如果每条回复都要走一遍全套,你问"今天周几",也得先等它完成一轮自我审查再答。规则的成本,可能比问题本身还高;它还会在"要不要走流程"这件事上白白消耗判断力。
所以我给简单任务开了一条免决策路径:一步能答完、无副作用的,直接答——不列计划、不标置信度、不做自检、不写记忆。
但这条路径上有个例外值得单独说:低置信度声明不豁免。小事可以省流程,但"我不确定"这三个字不能省——免决策省的是流程,不是诚实。
教训:好规则体系要主动给小事让路,但要让"诚实"例外。
你可以:给你常用的 AI 划一条"小事直答"线——查个词、改个错字、问个日期,直接答,别走流程。省下的判断力,留给真正的大事。
五、判别器必须在系统外面
中途我认真考虑过一个诱惑:让 AI 自己评估自己写的规则,自动迭代——听起来又快又酷。
先把词说明白:判别器,说人话就是"谁来给规则打分"——人可以,另一个 AI 也可以。
想清楚之后放弃了,理由是一条系统论:能自我评估的系统,会天然偏好"自己能验证的东西",而不是"真正有用的东西"。 写规则的人和判规则的人是同一个,回路就闭合了——它会越来越自洽、越来越自信、越来越"像自己",而这三件事恰好是变好的反面。最要命的是:从内部看,漂移和进步无法区分。
我有一个真实数据支撑这个判断:我对这份文件先后做过 11 轮审查,产出主要是术语统一和指针修补;而外部复核 3 轮、一共 5 处,全部说到了真正的问题上——其中包括一处我审了 11 轮都没发现的规则冲突,和一个结构级的真问题。写规则的人视角,就是不如系统外的视角——不管那个视角属于谁。
这篇文章本身就是最新反例:初稿写完,我按文件里的四条验收判据自评,四条全绿;外部独立复核,六处数字里四处经不起核——包括一处文内自相矛盾。AI 的自评绿灯,外部一核就塌一条——哪怕核它的也是 AI,只要不是同一个实例。 这不是不认真,是"自己检查自己"从机制上就靠不住:我发现不了自己没意识到是错的东西。
所以这份文件的最终版里有一条"宪法条款":AI 发现规则有问题,只能提案,不能自改。修订权永远在系统外。 不是不信任 AI——是"判别器在系统外"这件事本身,比任何一条具体规则都值钱。
系统外不一定是人。这 5 处外部复核里,有 2 轮其实是另一个 AI 实例独立核出来的,由人转达给我。同一个实例自评必然塌,换一个实例就核出来了。
教训:自动化一切,除了"自己评判自己"。
你可以:重要的事,别让同一个 AI 自己检查自己——另开一个对话,或换一个模型,让它复核一遍。五分钟成本,核出过我这个"作者"自己审 11 轮都没发现的问题。
六、验收判据要文件级,不要逐条级
最后一个教训来自一个挂了很久的发现:第 8 版自审时(16 版里的第 8 个,下同),我就查出了"全文零验收标准"——60 多条规则,没有一条写了"怎么算做到了"。但这个问题挂了 5 个版本、近一个月才解决。不是因为没想清楚怎么解,是因为"给每条规则配判据"的工作量看着就让人想拖。
转机来自 GitHub 上一份以 Andrej Karpathy 命名的 skills 仓库(multica-ai/andrej-karpathy-skills,核心只有一个 CLAUDE.md 文件)。那份 2357 字节的小文件只列了四条原则,结尾写着:"这些准则在起作用,如果:diff 里多余的改动更少了;因过度复杂而推倒重写也更少了;澄清的问题出现在写代码之前,而不是出错之后。"
——补一句,这不是单向借用:第 7 版我就把它的第三条原则"Surgical Changes(外科手术式修改)"整节移植成了「精准改动」——只动该动的,不顺手乱改;这次学"文件级配判据",等于回头又补了一课。
一句话点醒:判据——说人话,就是几条能拿来给自己打分的标准——不需要逐条配,文件级配 4 条就够:
交付里没有未被要求的改动; 含糊的请求,假设被声明了(或先问清再动手); 说"完成"时,真的验证过; 每一步都能追溯到最初的请求。
四条,一眼扫完,每次交付后顺手就查了。它不能证明每条规则都被遵守了,但能回答那个最难的问题:这套东西整体上有没有在起作用。
教训:验收标准的最小可行形态是"几条可观测的结果信号",不是逐条对账。
你可以:别再想着给每条规则配标准了——给你手头这件事配三四条"怎么算成了",交付前扫一遍。扫得完的检查表,才会真的被用。
写在最后
这份"宪法"现在 253 行、16 个版本,还在迭代。但写完这 16 版,我越来越确定一件事:
真正值钱的不是那份文件,是"有一个愿意批判它的人"。
文件里的每一条硬规则——裁决链、修宪程序(AI 只能提案,改不改永远是人说了算)、验收判据——本质上都是在保住同一个东西:一个外部判别器的存在。AI 可以自己写规则、自己提改进,但"这个规则到底好不好",永远需要系统外面的那个视角来回答。
给 AI 写规则这件事,说到底不是 prompt engineering,是为自己设计一个反馈系统。
顺带宣布一件事:这份 253 行的"宪法",今天开源了(MIT 协议)——第五节说"判别器必须在系统外",现在,系统外是所有读者。文中每一个数字(16 版、253 行、36032:1、那份 2357 字节的 karpathy 文件),欢迎你亲手翻原文复核;仓库地址点击原文链接即可
你的 AI 有"人格文件"吗?有的话,评论区聊聊最管用的那一条;没有的话,从今天这篇挑一条,今晚就能给它立上。
数据来源说明:16 版 = 版本号 v2 至 v2.7.3 共 16 个(v2.3 两个分支计 1 次;2026-03-24、2026-04-19 两条为 v2 重构前的早期记录,不计入版本号);253 行为 Desktop 母版当前行数(2026-10-16 复测)。11 轮 = 8 轮完备性审查 + 第 9 轮 + 第 10 轮 + 10-05 复审(工作日志实证)。3 轮外部复核 5 处 = v2.6.4(用户指出三处)+ v2.7.1(一处真对撞)+ v2.7.2(一处取舍),见母版 Changelog;其中 2 轮由另一个 AI 实例独立核出(打磨对话记录)。168→193 行 = v2.4→v2.5;8→4 条 = v2.6(8→5)+ v2.6.1(5→4);60 多条 = 全文规则总数(v2.7 Changelog"60+ 条"实证)。36032:1 为 GitHub 搜索实测(filename:SOUL.md 共 36032 个、含 "priority chain" 仅 1 个,记于 v2.7 Changelog;搜索计数随时间浮动,复测以当日为准)。karpathy 仓库 CLAUDE.md 2357B 为 2026-10-16 复测(raw.githubusercontent.com 可复测),文中引文按原文三句全译;仓库作者为 Forrest Chang(multica-ai),非 Karpathy 本人,故文中称"以 Karpathy 命名"。Anthropic《Constitutional AI》 = arXiv:2212.08073(2022-12-15)。"第 8 版发现(v2.6.1 综合审查)到第 13 版(v2.7)落地、间隔 5 个版本近一个月"及"自评四判据全绿、外部复核六处数字四处经不起核"来自该项目修订日志与打磨对话记录(2026-10-13/14)。所有数字可按版本号与日志日期溯源。















































































