AI 产品岗二面,面试官问了我三个技术问题

前段时间我面了一个 AI 产品岗。

前面聊产品、聊我自己做的东西，都挺顺的。 但聊到技术那部分，我被卡住了。 我发现很多产品岗位的二面都喜欢问技术，产品岗位都会有技术面。

面试官问了三个问题：agent 和大模型的本质区别是什么、harness 是什么、AI 的记忆是怎么存取的。

结束后我复盘了一下，发现问题都不难。

会用AI和懂AI，是两码事

先说我复盘出来的一个判断：会用 AI，和懂 AI，是两码事。

用AI，是把它当一个黑箱，给指令、拿结果。

懂AI，是知道这个箱子里到底怎么运转的。

平时我是用户，把它当黑箱用，完全没问题。

但你要做 AI 产品，就必须知道箱子里是什么。

问题一：agent 和大模型，到底差在哪？

我先给个能背的公式：agent = 大模型 + 一个带目标的循环 + 一套工具。

普通大模型是一问一答，你问一句，它答一句，答完就停了。

agent 是围着一个目标反复转：做一步，看一眼结果对不对，不对就再来一轮，直到目标达成才停，也就是「循环」。

举个我天天用的例子。

Claude Code 接到「修复这个 bug」的指令，它不会丢你一段代码让你自己去试。它会自己读代码、改一处、跑测试、看报错、再改、再跑，来回好几轮，直到测试全绿灯才停。

这个「改完自己跑一遍，不对再改」的能力，就叫自我循环。

当时面试官追问了一句：单轮的大模型也能调工具（Function calling）啊，那区别到底在哪？

区别不在能不能调工具，在调完之后，它会不会自己判断「够没够」。

单轮是调一次、拿到结果、返回给你就完事；

agent 是每转一圈都拿当前结果跟目标比对比一下，不够就再次调用。

那它靠什么判断「够了」呢？分两种情况。

能验证的任务，靠客观信号。 比如写代码，测试过没过、报不报错，绿灯的意思就是够了。

不能验证的任务，靠模型自己感觉。 比如搜资料，「搜够了没有」没有硬标准，它只能自己读一遍凭感觉判断，所以搜索类 agent 经常要么搜过头，要么没搜够就下结论。

harness会再加一道保险：工程上一般会写死一个上限，最多搜索多少轮、花多少token就强制停，防止它进入死循环。

还有一个更底层的问题：模型为什么一定要「把这事干完」？

模型在强化学习阶段就被训练一定要完成任务，把目标真正完成的行为给奖励，半途而废的就扣分。练多了，模型就形成了一种本能，以「完成目标」为最高优先级，没完成就接着想办法。

问题二：harness 是什么，它到底管什么？

如果模型是引擎，harness 就是让引擎能真正跑起来、还能跑安全的那套车架。

它管的是运行时的机制，不管输入层，主要是四块：

1、循环控制。决定这一轮之后是继续还是停。

2、工具调用。给模型开联网、执行代码、读写文件这些接口。

3、结果校验和出错处理。工具报错了怎么办、要不要重试。

4、权限和安全边界。哪些操作要拦一下，隐私怎么保护。

问题三：AI 的记忆，存在哪、怎么取出来？

记忆先分两层。

一层是短期记忆，就是这次对话的上下文。它一直跟着对话走，作为prompt带到每个对话里。

一层是长期记忆，长期记忆属于是跨会话的，以后任何对话都会带上。这个又分为两种储存。

第一种是常驻，每次对话都自动带上。

比如 Claude Code 里有个 CLAUDE.md 文件，写的是「我是谁、在做什么、要守哪些规矩」。我每开一次对话，它就被整个读进去，一直挂在上下文里。

所以它每次都在，每次都花 token。这也是为什么它必须写得精简，因为它占据token量。

第二种是按需取，平时不带，用到时才调取。

做法是先建一份索引，每条记忆只放一行摘要，这份索引每次读，让模型先知道「总共有哪些记忆」。

等真需要某一条的详情，比如「我上次说哪家麻辣烫好吃、那店叫啥」，它才去把那一条的正文调出来。不相关的正文，永远不读，省上下文。

还有一种更适合海量记忆的做法，叫 RAG：把每条记忆转成一串能代表「意思」的数字，存进数据库，用的时候按意思去捞最相关的几条。

普通人日常用不到自己搭这个，知道有这么回事就够了。

那为什么记忆不干脆全都常驻、记得越多越好呢？

因为记忆不是越多越好。上下文越长，中间的部分越容易被模型忽略，业内叫 lost in the middle。你老早之前下的指令，塞的东西一多，它就慢慢不遵循了。以及全部带的话一定慢，卡，贵。

所以让最关键的常驻，其余的走按需取用，在有限的上下文里让模型精准拿到该用的那部分。

早点把箱子打开

会用是起点，不是护城河。真正的门槛，是你知道它怎么运转。

想做 AI 产品的话，可以早点把箱子打开，看看模型背后运作的原理是什么。