夜雨聆风学习资料网

ARTICLE · 1187178

AI 工具如何辅助学习?——以Transformer为例

AI 工具如何辅助学习?——以Transformer为例
    Transformer是DeepSeek、GPT等大语言模型的底层技术,对它的掌握,可视学习“深度学习”的一个标志性节点。
    我虽然会点Python,机器学习也懂点皮毛,但对学习Transformer一直心存恐惧——毕竟年龄不小了、脑袋也没那么灵光了。Claude Code等AI 工具的出现,让我重新萌生了学习Transformer的念头。最终,在DeepSeek、Claude Code等工具的帮助下,我不仅理解了Transformer,还手写了底层代码。这段经历让我对“AI如何辅助学习”有了更深的体会,于是我就想把它记录下来,希望能给想学Transformer的朋友提供一点参考。
(一)借助DeepSeek通读经典论文。我做的第一件事,是把《Attention is All You Need》这篇论文交给DeepSeek,让它翻译成中文并概括出主要内容。在此基础上,我进一步追问了相关概念,比如“注意力机制”、“多头”、“掩码”等等。
(二)借助DeepSeek寻找示例数据。DeepSeek推荐了多个数据集,我最终选择了HuggingFace网站的一个。
(三)借助Claude Code编写代码。我用的提示词是:“请基于**文件夹下名称为**的数据,编写Transformer算法的底层代码。”Claude Code会编写代码,并自动纠错,直至跑通为至。
(四)借助Claude Code理解代码。编写提示词让Claude Code解释每个类、每个函数的功能,并指出哪些行用来实现Embedding层,哪些行用来实现Multi-Head Attention层。
(五)自己编写简化代码。Claude Code编写的代码通常都是“批次输入”,理解起来比较吃力。我仿照它,编写了“单条数据输入”的版本,降低理解难度。
(六)对比自编代码和AI代码。等自编代码均顺利实现相关功能后,我再加入“批次”维度重新组装代码,最后验证自编代码和AI代码的输出是否一致。
    这次经历给我的感受是:AI Agent确实降低了学习门槛,能够突破年龄和学科背景等因素的束缚。如果大家也有想学而不敢学的内容,不妨试试AI Agent这些新的工具!
“E校挺好”公众号将致力于知识的分享和交流,欢迎大家转发和投稿!

相关学习资料