Happy LLM¶
课程简介¶
- 先修要求：深度学习，基础的 NLP 知识（如 CS224n）
- 主要内容：从大模型的基本原理，到动手搭建一个大模型，最后到大模型训练实战，以及微调、Rag、Agent 等前沿领域的涉足
照我看来，学习大模型最重要的就是在了解基本原理之后，第一时间上手实操，更深入的理解往往来源于一次又一次实验的结果分析。这一点 Datawhale 开源的 Happy LLM 就做得非常好，在简要的讲解了 nlp 的一些基础知识之后，就直接进入了 transformer 原理 + 代码实现的操练环节，配图之多样、代码之清晰令人赞叹，非常推荐新手通过这门课来入门大模型这一生机蓬勃的领域。
由于这个教程是面向新手的，所以一些概念并不深入，如有需要，建议采用自顶向下的学习方式，自行寻找资料补充学习。
另外提一嘴，Datawhale 开源的许多教程质量非常高，很值得一学！