深度学习和大模型原理与实践

本书以清晰易懂的语言深入剖析深度学习的核心原理，从基础算法到复杂模型架构，为读者揭开技术神秘面纱。书中详细阐述大模型的构建、训练与优化策略，结合丰富的实践案例，使抽象理论具象化。无论是深度学习初学者渴望入门，还是专业人士欲深入探索大模型奥秘，本书都能提供全面且深入的指引，是一本不可多得的深度学习与大模型学习宝典，帮助读者在这个前沿技术领域快速提升认知与实践能力，紧跟时代技术浪潮。

本书是一本全面深入探讨深度学习领域的核心原理与应用实践的专业书籍。本书旨在为读者提供系统的学习路径,从深度学习的基础知识出发,逐步深入到复杂的大模型架构和算法实现。本书适合深度学习初学者、中级开发者以及对大模型有深入研究需求的专业人士。通过阅读本书,读者不仅能够掌握深度学习的理论基础,还能通过丰富的实战案例,提升解决实际问题的能力。

常耀斌
中共党员，AI科学家，首席技术官。2007年毕业于北京邮电大学，计算机硕士研究生。
拥有20年国家级数字化平台的建设和管理经验，曾就职于华为技术有限公司、中国移动集团研究院、爱康集团等，历任技术总经理、数据科学家、CTO等企业高级管理职位。
个人拥有40余项中国发明专利，发表10多篇核心期刊论文，在清华大学出版社出版有《大数据架构之道与项目实战》和《AI赋能企业数字化转型》。
参与研发“全军一体化指挥作战平台”，荣获“国家科技进步奖”牵头研发“华为物联网平台”，服务用户近5亿。
参与设计“中国移动智慧医疗云平台”和“九天”AI平台，服务用户近4亿。
牵头设计“爱康数字医疗云及AI平台”，服务用户近1亿。

王文惠
毕业于中国科学院大学软件研究所，计算机工学硕士。曾就职于百度，任职高级AI算法工程师，对NLP、图像识别、大数据等领域有深入研究，实战经验丰富。拥有7年的NLP实战经验，主导开发了百度地图搜索引擎的语义召回模型、基于大模型ERNIE的深度语义相关性模型、文本纠错模型等核心项目。

第1章 从机器学习到大模型
1.1 AI的两次技术革命
1.2 AI技术发展历程
1.3 机器学习是什么
1.4 机器学习有哪些分支
1.5 什么是强化学习
1.6 深度学习的核心思想
1.7 卷积神经网络
1.8 生成式AI是如何发展起来的
1.9 大语言模型
1.10 是否所有大语言模型都是生成式AI
1.11 大语言模型LLM能干什么
1.12 大语言模型的“大”是什么含义
1.13 大模型的核心技术
1.14 Transformer背后的黑科技
1.15 Transformer演变了哪些成功的模型
1.16 主流算法框架介绍
1.17 Transformer模型的应用

第2章 PyTorch编程基础
2.1 PyTorch 的卓越历程
2.2 Pytorch的优点
2.3 Pytorch的使用场景
2.4 NumPy库的数组
2.5 Tensor操作
2.6 GPU加速
2.7 自动求导
2.8 PyTorch 神经网络
2.9 构建神经网络
2.10 使用GPU加速
2.11 PyTorch实战案例

第3章 卷积神经网络
3.1 神经网络结构
3.2 感知机
3.3 前馈神经网络
3.4 学习率
3.5 激活函数
3.6 深度学习
3.7 卷积神经网络

第4章Transformer
4.1 Transformer原理
4.2 BERT介绍
4.3 其他预训练模型

第5章 基于深度学习的推荐
5.1 基于行为的协同过滤
5.2 基于深度学习的推荐
5.3 基于pytorch的DeepFM的完整实战代码
5.4 模型训练代码实战

第6章 YOLO目标检测
6.1 什么是YOLO？
6.2 YOLO v1
6.3 YOLO v2
6.4 YOLO v3
6.5 YOLOv4
6.6 YOLOv5
6.7 YOLOv8

第7章 人脸识别应用
7.1 应用场景介绍
7.2 人脸识别系统架构
7.3 人脸检测模型：RetinaFace
7.4 训练模型
7.5 预测目标
7.6 人脸识别模型：ArcFace
7.7 应用实战

第8章 SwinTransformer视觉大模型详解
8.1 Vision Transformer如何工作？
8.2 Vision Transformer是第一代CV大模型
8.3 ViT模型架构
8.4 第二代CV大模型：Swin Transformer
8.5 核心代码讲解

第9章 地图智能搜索算法应用
9.1 产品介绍
9.2 文本匹配任务
9.3 ERNIE简介
9.4 深度语义召回
9.5 深度语义相关性

第10章 AI大模型与ChatGPT
10.1 大模型发展的驱动力
10.2 语言模型的定义及作用
10.3 语言模型的发展历程
10.4 ChatGPT是什么
10.5 预训练ChatGPT的步骤
10.6 ChatGPT模型的基本原理

在这个信息爆炸、技术革新日新月异的时代,深度学习作为人工智能领域的重要分支正引领着新一轮的技术革命。《深度学习和大模型原理与实践》一书，旨在为读者提供深度学习及其大模型技术的全面知识和实践应用的指南。
本书特色在于其深入浅出的理论知识讲解与丰富的实战案例分析。从深度学习的基础概念到复杂的神经网络架构，从PyTorch编程基础到前沿的Transformer模型，每一章节都旨在帮助读者构建扎实的理论基础，并提供实际操作的技巧和经验。

本书内容
第1章讨论了企业数字化转型如何推动AI技术的发展，涵盖了AI技术革命、机器学习、深度学习的核心思想，以及大语言模型的崛起和应用。
第2章介绍了PyTorch编程的基础知识，包括NumPy库的使用、Tensor操作、自动求导机制，以及如何使用GPU加速神经网络的训练
第3章深入讲解卷积神经网络的原理和结构，为读者提供了深度学习在图像识别等领域应用的理论基础。
第4章详细阐释了Transformer模型及其衍生模型BERT的原理和应用,探讨了自注意力机制和多头自注意力等关键技术。
第5章讨论了基于深度学习的推荐系统，通过实战代码展示了如何实现DeepFM等推荐模型。
第6章系统地介绍了YOLO目标检测模型的发展历程，从YOLO V1到YOLO V8，为读者提供了目标检测技术的全面认识。
第7章专注于人脸识别技术，从RetinaFace到ArcFace,为读者揭示了人脸识别技术背后的原理和实践。
第8章详解了Swin Transformer这一视觉大模型，探讨了其在计算机视觉领域的创新和应用。
第9章讨论了地图智能搜索算法，特别是ERNIE模型在文本匹配任务中的应用。
第10章作为本书的压轴，为读者提供了ChatGPT等AI大模型的知识，涵盖了预训练、模型原理及其应用场景。

适合读者
本书适合所有对深度学习和大模型技术感兴趣的读者，无论是在校大学生、研究人员，
还是行业工程师和开发者，都能在本书中找到适合自己学习的内容。对前沿AI技术感兴趣
的读者可以阅读我的博客https://blog.csdn.net/Peter_Changyb，定期分享新技术。

致谢
本书在编写过程中得到了许多专家和同行的支持和宝贵意见。在此，我们向所有参与
本书编写、审校和提供反馈的个人和团队表示衷心的感谢。
我们希望本书能够成为读者在深度学习和大模型技术领域的良师益友，帮助他们在理
论与实践之间架起桥梁，探索人工智能的无限可能。