乐于分享
好东西不私藏

质量工程师该懂多少AI?

质量工程师该懂多少AI?

一、让人尴尬的问题

招聘季,一位做了六年测试的朋友发给我一段招聘JD:

"熟悉AI测试方法,了解Prompt Engineering,具备LLM应用测试经验,熟悉RAG/Agent架构……"

她问我:"这些我都需要会吗?"

我在回答之前,先问了她一个问题:你现在每天的测试工作,AI能帮你做什么?

她想了一会儿:"用ChatGPT生成测试用例,偶尔让它帮我写接口自动化脚本,还有翻译英文报错信息。"

"那你觉得你需要学RAG架构吗?"

她笑了。

这篇文章,想做一件务实的事:从实际工作场景出发,不追热点,不堆概念,把质量工程师真正需要的AI能力梳理清楚——哪些是必须掌握的,哪些是可以有的,哪些暂时不需要碰。


二、能力是否必要,看它服务哪个场景

在列清单之前,先说判断方法——不然清单只是另一份让人焦虑的列表。

判断一项AI能力对质量工程师是否必要,看三个维度:

第一:它对应真实的工作场景吗?

能力对应的使用场景,是你日常工作里真实存在的,还是一个假想的高级场景?如果你的日常工作里,80%的时间在做接口测试和用例设计,那面向这两个场景的AI能力就是必要的,面向"AI系统的对抗测试"暂时就不是。

第二:不掌握它,工作质量会明显下降吗?

有些能力是效率倍增器——掌握了快很多,不掌握也能做,只是慢一些。有些能力是质量门槛——不掌握,输出的测试结论就不可信。前者是"锦上添花",后者是"必备"。

第三:它的学习成本和收益比合理吗?

学RAG架构需要理解向量数据库、嵌入模型、检索策略,学习周期以月计。但90%的质量工程师的日常工作里,RAG测试不是核心场景。相比之下,学会写有效的Prompt,一天就能上手,每天都用得到。学习成本和收益比,是判断优先级的关键。

用这三个维度过滤,就能把AI能力清单从"需要学的全部"压缩成"现在就该学的"。


三、必备能力:不掌握,AI工具就是玩具

3.1 Prompt工程:不是技巧,是表达能力

很多人觉得Prompt Engineering是一种神秘的咒语——找到对的句式,AI就能输出完美结果。这个理解本身就是问题所在。

Prompt工程的本质,是把你的测试意图准确表达给AI的能力。它考验的不是你知道多少"提示词技巧",而是你对自己的测试目标理解得有多清晰。

对质量工程师来说,必须掌握的Prompt能力是以下四种:

① 角色设定 + 任务约束

不只是告诉AI做什么,还要告诉它以什么视角做、有什么限制。

❌ 普通写法:"帮我写一下登录功能的测试用例"✅ 有效写法:"你是一名资深测试工程师,正在为一个B2B SaaS系统设计登录模块的测试用例。系统特点:企业用户,支持SSO和账密两种登录方式,有登录失败次数限制。请重点覆盖:安全性场景(暴力破解防护、session管理)和边界条件。输出格式:Markdown表格,包含用例ID、场景描述、步骤、预期结果、优先级。不需要正常登录的基础场景,那些已经有了。"

注意后一种写法做了什么:给了系统背景,指定了重点方向,明确了不需要什么,规定了输出格式。这四件事任何一件缺失,AI的输出质量都会下降。

② 分步骤拆解复杂任务

复杂的测试任务,不要一个Prompt全塞进去,要学会拆解:

第一步Prompt:分析这份API文档,识别所有接口的依赖关系,               输出一张依赖图(文字描述即可)第二步Prompt:基于上面的依赖关系,为下单流程(搜索→加购→结算)               生成端到端的测试场景,只覆盖正常路径第三步Prompt:针对这些正常路径场景,生成对应的异常变体,               每个场景至少2个异常版本

一次说清楚,不如三次各说一件事——AI每个步骤的上下文更聚焦,输出质量更高。

③ 要求AI输出"结构化内容"而非"段落描述"

测试工作需要的产出,是可以被执行、被追踪、被入库的内容,不是一段描述性的文字。在Prompt里明确要求输出格式,是防止AI"废话"的最有效方式:

"输出格式严格按照以下JSON Schema:{  'case_id': string,  'priority': 'P0'|'P1'|'P2',  'precondition': string,  'steps': [string],  'expected_result': string,  'tags': [string]}不要输出任何解释性文字,只输出JSON数组。"

④ 建立自己的Prompt模板库

这不是什么高深的技能,但它是把AI效率固化下来的关键习惯。把那些反复用到的、输出质量稳定的Prompt,整理成可复用的模板:

  • 需求文档转测试策略模板
  • 接口文档转用例集模板
  • 缺陷描述规范化模板
  • 探索笔记整理模板

有了模板库,下次启动新任务,不是从零开始写Prompt,而是从模板出发做微调。效率提升的复利效应,在三个月后开始显现。


3.2 最容易被忽视的必备技能

这是很多人使用AI时最大的盲区。

AI生成了一份测试用例,你怎么知道它是对的?AI分析了一个测试结果,你怎么知道它的判断是准确的?

不校验AI的输出,就等于把测试结论外包给了一个不承担责任的工具。

质量工程师必须掌握的校验能力,分三个层次:

第一层:完整性校验

AI生成的测试用例,有没有遗漏关键场景?这一层不需要AI帮你——你自己作为测试工程师,应该有能力判断"对于这个功能,有哪些场景是必须覆盖的"。

快速校验方法:反向提问法。把AI生成的用例列表给它,让它以挑剔的评审者身份,找出可能遗漏的场景:

"以下是为支付功能生成的测试用例列表。请以资深测试工程师的视角,挑剔地审视这份清单:哪些重要场景可能被遗漏了?特别关注:并发场景、数据一致性、第三方接口失败的降级处理。"

AI自查AI,往往能发现它自己第一次遗漏的东西。

第二层:准确性校验

AI生成的预期结果,是否和业务逻辑一致?这一层必须有人介入——AI不了解你的业务规则,它给的"预期结果"是基于通用模式的推断,不是基于你的产品文档的事实。

每次拿到AI生成的用例,都要做一个快速过滤:把"预期结果"和实际的需求文档、产品设计逐条对照,特别警惕那些AI写得非常具体但你没有原始依据的条目——它可能在"合理捏造"。

第三层:可执行性校验

AI写的操作步骤,能不能真实执行?步骤里有没有假设了某个不存在的前置状态?有没有跳过了某个实际操作中必须做的步骤?

最快的校验方法:干跑一遍。不实际执行,但按照步骤在脑子里模拟一遍,看看每一步是否能接上下一步。走不通的地方,就是需要修改的地方。


3.3 不被营销话术带偏的能力

AI测试工具市场正在爆炸式增长,每周都有新产品声称"彻底改变测试方式"。质量工程师需要有能力判断:这个工具值不值得花时间评估?

快速筛选的三个问题:

问题一:这个工具解决的,是我真实存在的痛点吗?

工具的价值,不取决于它能做多少事,而取决于它能解决你当前最大的问题。如果你最大的痛点是回归测试维护成本高,一个专注于探索性测试的AI工具对你来说价值有限,不管它的功能列表有多长。

问题二:它的结果是可验证的吗?

AI工具声称能"自动发现测试用例"或"自动分析缺陷根因"——好的,给我一个已知问题的测试数据,让我验证它能不能发现这个已知问题。任何无法被验证的声称,都应该持保留态度。

问题三:它要求的集成成本,值不值得?

有些AI测试工具需要深度集成到CI/CD流水线、代码仓库、缺陷系统——集成周期以月计。评估工具时,不只看它能带来什么,还要看它要求你付出什么。


四、这些能力,有机会就学

以下这些能力,掌握了会显著提升工作质量,但不掌握也不会造成立刻的质量缺口——适合在"必备"都扎实之后,按自己的项目场景选择性投入。

LLM-as-Judge的使用

用另一个LLM来评估AI生成内容的质量,而不是只靠人工。适用于:AI生成的测试报告是否清晰、AI给出的用例优先级是否合理。掌握这个,能把一部分本来需要人工复核的工作半自动化。学习门槛不高,一到两天可以上手。

向量搜索在测试用例管理中的应用

用语义相似度搜索,找出已有用例库里和新需求相似的历史用例,避免重复创建。对用例库超过1000条的团队有实际价值,小规模团队不必着急。

基于AI的日志异常检测

让AI分析测试执行日志,自动识别异常模式,减少人工翻日志的时间。对有完整日志系统的团队,这是一个明显的效率提升点;对日志本身还不完善的团队,先把日志体系建好再说。

测试数据生成的Prompt设计

不只是让AI生成测试用例,而是让AI生成测试数据——能够覆盖特定分布、包含特定比例的边界值、符合业务规则约束的测试数据集。这是比普通Prompt工程更细的技能,但在数据驱动的测试场景里价值很高。


五、别被JD带偏

以下这些能力,在JD里经常出现,但对90%的质量工程师来说,当下投入学习的收益很低:

RAG系统架构

了解RAG的基本概念是有好处的,但深入理解向量数据库的索引策略、嵌入模型的选型、检索准确率的调优——这些是AI应用开发者需要掌握的,不是测试RAG应用的质量工程师需要掌握的。测试一个RAG应用,你需要理解它应该做什么、在哪里容易出错,不需要自己能搭一个RAG系统。

多Agent系统开发

会使用多Agent测试系统和能开发多Agent系统,是两件完全不同的事。前者是质量工程师需要的,后者是AI工程师需要的。如果你的工作不包含构建AI测试基础设施,这个技能暂时在你的优先级清单上可以靠后。

大模型微调

除非你所在的团队正在自研测试专用的AI模型,否则你遇到大模型微调任务的概率接近于零。这个技能的学习曲线陡峭,投入产出比对质量工程师而言极低。

所有以"正在兴起"为卖点的工具

一个工具是否值得学习,不看它的宣传材料,看它有没有解决你当前真实存在的问题。"正在兴起"不是学习理由,"能解决我每周要花5小时手动做的事"才是。


六、结尾

回到开头那位朋友的问题:质量工程师该懂多少AI?

现在可以给出一个更具体的答案:

必须懂的:能让AI准确理解你的测试意图(Prompt能力),能识别AI输出的可信度(结果校验),能判断一个工具是否真的有用(工具选型判断)。

有机会学的:那些针对你当前项目场景,能明显提升输出质量的具体方法。

暂时不需要的:那些在JD里看起来很酷、但和你日常工作场景距离很远的技术名词。

更根本的判断标准只有一个:这个AI能力,能让我的测试结论更可信,还是只是让我的工作表演起来更现代?

可信的测试结论,才是质量工程师的核心价值所在。所有服务于这个目标的AI能力,值得投入学习;所有只是让简历看起来更好看的技术词汇,可以等一等。

不追热点,只看实用——这不只是学习AI能力的方法,也是做好质量工程师这件事的底层逻辑。