系列教程
GPT完全指南
共 10 篇文章
1
GPT完全指南（一）：发展历程与核心思想
从GPT-1到GPT-4，深入理解大语言模型的发展脉络、核心思想与技术演进
2
GPT完全指南（二）：架构深度解析
深入剖析GPT的Decoder-only Transformer架构，包括注意力机制、位置编码、LayerNorm等核心组件
3
GPT完全指南（三）：分词与词表构建
深入解析GPT的分词技术，包括BPE、WordPiece、SentencePiece算法原理与实现，以及如何从零构建高效词表
4
GPT完全指南（四）：预训练技术详解
深入解析GPT预训练的核心技术，包括语言建模目标、大规模数据处理、分布式训练策略以及Scaling Laws
5
GPT完全指南（五）：微调与对齐技术
深入解析GPT模型的微调技术，包括SFT监督微调、RLHF人类反馈强化学习、DPO直接偏好优化等让AI"听话"的关键技术
6
GPT完全指南（六）：从零实现miniGPT
从零开始用PyTorch实现一个完整的GPT模型，包括分词器、模型架构、训练循环和文本生成的全部代码
7
GPT完全指南（七）：推理优化与部署
深入解析GPT模型的推理优化技术，包括KV Cache、量化、Flash Attention、Speculative Decoding以及vLLM、TensorRT-LLM等推理框架
8
GPT完全指南（八）：Prompt Engineering实战
系统学习Prompt Engineering的核心技巧，包括Few-shot、Chain-of-Thought、ReAct等高级技术，以及结构化输出和实际应用案例
9
GPT完全指南（九）：GPT Agent开发
深入学习GPT Agent的开发技术，包括Function Calling、工具使用、LangChain框架、多Agent协作以及实战项目开发
10
GPT完全指南（十）：应用案例与最佳实践
探索GPT在实际应用中的案例，包括RAG系统、代码助手、内容创作、企业应用等，以及生产环境部署的最佳实践