夜雨聆风
这是一门实战课，没有任何虚头巴脑的东西，专门教你如何在工作中搞定AI系统的设计、实施，直到最后成功上线。学完就能用，超级实用！
说明
关键细节
- 高度实践性
：课程专注于在你的工作场所构建AI系统。 - 原型构建与探索
：你将构建并探索24个原型，以获得深度、实用的理解。 - 设计思维
：设计和构思7个结合AI与弹性系统设计的代理系统。 - LLM信用点
：课程不包含大型语言模型（LLM）的使用信用点，你需要为原型设计准备自己的API密钥。 - 模型选择自由
：虽然示例中使用了Gemini模型，但你可以自由选择任何模型进行学习。 - 终身访问
：享有所有课程录像的终身访问权限。 - 编程语言
：所有系统的开发都将在Python中完成。 - 课程焦点
：本课程不涵盖机器学习或深度学习的内容，而是专注于如何利用LLM（大型语言模型），理解不同的模式、陷阱，并使用它们构建优秀的系统。
为什么现在学习应用AI？
- AI作为现代产品核心层
：AI正在成为现代产品的核心层。 - 关键工程技术
：使用LLM、代理和AI工作流进行构建已经成为一项关键的工程技术。 - 可靠的AI系统要求
：可靠的AI系统需要内存、工具、检索、工作流和评估——而不仅仅是调用LLM。 - 工程师的最大机遇
：对于能够将AI集成到现实世界产品中的工程师来说，AI是当今最大的机遇。
课程概述
周1 – 第1次会议 学习如何设计可靠的提示，识别和预防常见的LLM失败，并系统地评估输出。本会议为构建可信赖的AI应用程序奠定了基础。
随机性LLM 思维链提示和少量样本提示 提示失败模式 结构化输出 可靠地进行提示 原型和演示：6个 系统设计：事实核查代理系统 工具使用和生产中的RAG（检索增强生成）
周1 – 第2次会议 了解生产AI系统如何大规模可靠地使用工具和检索。本节涵盖了稳健的RAG系统的基础、提高检索质量、减少幻觉以及处理现实世界的操作挑战。
工具使用和工具模式设计 并行工具调用和部分失败 混合搜索和元数据过滤 重新排序 – 交叉编码器和双编码器 查询重写 语义缓存 原型和演示：7个 系统设计：超过1000万文档的RAG，无幻觉 构建工作的代理
周2 – 第1次会议 了解AI代理背后的核型模式，它们如何在复杂的任务中推理、规划和行动。对于构建能够在单一LLM调用之外操作的可靠代理至关重要。
观察-思考-行动循环 Ralph循环 ReAct循环 计划和执行循环 文件系统作为上下文 检查点和恢复 人类参与循环 原型和演示：6个 系统设计：从论文到代码代理 多代理系统和记忆
周2 – 第2次会议 了解多个AI代理如何协作、共享记忆并在复杂系统中有效协调。对于构建可扩展、易维护且在生产中保持可靠和可观察性的代理架构至关重要。
记忆体系结构 工作记忆管理与预算 记忆总结和写入策略 编排者+专家模式 批评家+精炼者模式 代理混合模式 多代理系统中的死锁 原型和演示：3个 系统设计：事件自动修复系统 评估、安全性和代理系统
周3 – 第1次会议 学习如何系统地评估AI系统、测量性能并识别部署前的弱点。对于构建可信、安全且持续改进的生产AI应用至关重要。
什么是好的评估？ LLM作为裁判 放置和插入评估 人类评估 探索性和对抗性评估 回归套件 原型和演示：2个 系统设计：AI代码审查系统 系统设计：自我更新的AI文档平台 生产架构和规模
周3 – 第2次会议 了解支持可扩展AI系统的架构模式，从可靠性、成本管理到部署和可观测性。对于构建在规模上表现一致的生产就绪型应用至关重要。
优雅降级 提示缓存 可观测性和成本归属 原型和演示：2个 系统设计：自然语言工作流引擎