ARTICLE · 1260943
入职了一个AI测试女孩,啥都要带真的服气!
入职了一个AI测试女孩,啥都要带真的服气!
上周刚带完入职满 30 天的 AI 测试新人,才发现新人上手慢,很多时候不是能力问题,而是被 AI 测试行话拦住了路。
让她整理 Badcase 池,她盯着表格问要按什么维度归因;说和算法、开发对齐 Badcase,她小声问是不是要截图打印出来;开会提到版本要做模型灰度回归,她偷偷查手机是什么意思。
😰这才意识到 AI 测试岗行话对新人的隐形门槛:
老人总觉得这些是基础常识,下意识省略解释;
新人怕露怯不敢追问,信息没对齐,最后评出来的东西完全跑偏。
为了帮她尽快跟上节奏,我整理了 AI 测试岗高频行话,从基础概念到岗位要求都有,AI 测试新人快收好,别再因为听不懂行话拖慢成长
✨AI 测试岗必懂行话
Badcase 池:存放模型答错、幻觉、拒答、工具调用失败等问题的清单,方便归因和排优先级
评测用例:描述输入 Prompt、上下文、预期输出、校验点和风险标签的文档
回归评测:模型、Prompt、检索或工具链更新后,重新验证老场景有没有被改坏
模型灰度:先给部分流量放新模型/新 Prompt,指标稳定后再全量上线
冒烟评测:版本提测后快速校验核心问答、检索、工具调用主流程能否跑通
Trace 链路校验:核查一次请求从 Prompt、检索、模型到工具调用的完整日志链路
人工验收:业务或标注同学对模型输出做最终事实性、可用性验证
推理压测:模拟高并发请求,验证模型服务吞吐、延迟和稳定性上限
边界输入:超长文本、空输入、多语言、对抗样本等易触发问题的数据点
Badcase 闭环:问题从发现—归因—修复—复评—关闭的完整流程
对齐口径:和算法、产品、标注确认评测标准、通过线和问题细节
限流降级:高并发或模型服务异常时,系统能否限流、熔断、降级兜底
黄金集:人工精标的评测样本集,用于版本回归和效果对比
LLM-as-judge:用大模型按统一标准辅助打分,需校验评委一致性
AI 测试相关岗位核心要求
功能测试:会写评测用例、提交 Badcase 单,跟进闭环,细心严谨
自动化测试:熟练脚本编写,搭建自动化评测与回归流水线
性能测试:开展推理压测、并发测试,定位模型服务性能瓶颈
AI 测试工程师:掌握 LLM、RAG、Agent 基础概念,可完成效果、安全与 RAG 评测
B 端测试:熟悉企业 AI 业务流程,重点校验知识库准确性、权限逻辑、工具调用数据一致性
C 端测试:站在普通用户视角,注重问答体验、幻觉率、兼容性与安全合规
#AI测试 #大模型测试 #RAG评测 #Prompt测试 #Agent测试 #软件测试 #自动化测试 #转行AI测试















































































