斯坦福课程CS392Z:AI 怎样学会选工具、填参

让课程助手把截止时间加进日历，它回一句“已经添加”，我打开一看啥也没有。这事儿断在哪儿了？模型可能只写了工具名没真执行，也可能选错了日历。只看那句“已经添加”，根本看不出任务到底完成到哪一步。

以前搞 RAG 也是这毛病。给模型塞一堆文档，答案明明在里面，它照样找不着。相关句子被无关文字一包围，模型就“迷失在中间”了。而且检索器找得再准，模型的回答质量也不跟着涨。更离谱的是，它附上的参考文献和链接，本身都可能是瞎编的幻觉。

所以现在斯坦福这门课直接升级：不光让 AI 查资料，还要让它学会用工具、填参数。比如算乘法，旧版 GPT-4 准确率只有 59%，数字一大就抓瞎。与其指望它硬算，不如把算式直接甩给计算器。

说白了，AI 负责动嘴皮子下指令，外部程序负责动手干活。能写出工具名，只算完成了第一环。
#斯坦福CS392Z #人工智能 #AI #RAG #LLM #Agent #智能体工程