描述
开 本: 16开纸 张: 胶版纸包 装: 平装-胶订是否套装: 否国际标准书号ISBN: 9787111776437
本书遵循教指委相关指导文件和高等院校学生学习规律编写而成。践行四新理念,融入思政元素,注重理论与实践相结合。
本书是一本全面介绍模式识别领域相关知识的教材,为读者提供模式识别技术的基本概念、算法体系和历史发展脉络,从基本模型和底层原理出发深入探讨各种模式识别方法的核心机制与应用策略。本书内容首先介绍了人工智能的概念内涵,以及模式识别与人工智能、机器学习的相互关系,然后详细阐述了模式识别的一系列基本概念,分析了模式识别问题的解决思路,建立了完整的模式识别系统。书中针对线性分类器、贝叶斯分类器、最近邻分类器、组合分类器、数据聚类、模糊模式识别、神经网络模式识别和结构模式识别等各类算法进行了详细讲解,构建了完整的算法体系,并探讨了特征工程、统计学习理论等模式识别和机器学习中的基础性问题。本书强化了模式识别技术的实践应用,通过典型算法案例的分析和实现来帮助读者更加深入地理解所学内容,增强实践能力。
本书主要面向高等院校计算机、自动化、大数据、信息电子等人工智能相关本科专业的学生用作学习模式识别课程的教材,也可供相关学科领域的研究生、科研人员、工程技术人员和社会学习者作为学习、研究和工程实践的参考。
本书配有电子课件、教学大纲、习题答案、教学视频及源代码等教学资源,选用本书作教材的教师,请登录www.cmpedu.com注册后下载。
前言
各章电子资源对照表
第1章 绪论 1
1.1 人工智能之模式识别 1
1.1.1 生物识别能力 1
1.1.2 模式识别与人工智能和机器学习 3
1.1.3 模式识别技术的历史发展 3
1.2 模式识别的基本概念 8
1.2.1 样本、模式和类 8
1.2.2 特征、特征空间和特征向量 8
1.2.3 相似度、紧致性和维数灾难 9
1.2.4 有监督学习和无监督学习 11
1.2.5 泛化能力与过拟合 12
1.3 模式识别工程 13
1.3.1 模式识别系统的组成 13
1.3.2 模式识别的算法体系 14
1.3.3 模式识别的典型应用 15
1.4 模式识别算法实例 16
算法案例 18
思考题 21
拓展阅读 21
参考文献 22
第2章 特征生成和特征降维 23
2.1 特征工程 23
2.1.1 特征工程的概念 23
2.1.2 特征工程的方法 24
2.2 主成分分析 25
2.3 类别可分性度量 27
2.3.1 类别可分性度量准则 27
2.3.2 类内类间距离 28
2.3.3 概率距离 29
2.4 基于类别可分性度量的特征提取 30
2.4.1 准则函数构造 30
2.4.2 基于J2准则的特征提取 31
2.5 特征选择算法 33
2.5.1 独立算法 33
2.5.2 穷举算法 33
2.5.3 分支定界法 33
2.5.4 次优算法 35
思考题 36
拓展阅读 36
参考文献 37
第3章 统计学习理论 38
3.1 机器学习的基本问题 38
3.1.1 机器学习问题的描述 38
3.1.2 经验风险最小化原则 39
3.2 学习过程的一致性 41
3.3 函数集的容量与VC维 42
3.4 推广性的界 44
3.5 结构风险最小化 45
3.6 正则化方法 46
思考题 47
拓展阅读 47
参考文献 47
第4章 线性分类器 48
4.1 判别函数 48
4.1.1 线性判别函数 49
4.1.2 广义线性化 52
4.2 线性分类器原理 54
4.2.1 线性分类器设计 54
4.2.2 线性分类器训练 54
4.2.3 线性分类器分析 55
4.3 感知器算法 56
4.3.1 感知器原理 56
4.3.2 感知器训练 57
4.3.3 感知器分析 58
4.3.4 感知器网络 59
4.4 LMSE算法 60
4.4.1 线性分类器的松弛求解 60
4.4.2 H-K算法 62
4.5 Fisher算法 63
4.5.1 Fisher分类器原理 63
4.5.2 Fisher分类器分析 66
4.6 支持向量机 67
4.6.1 线性支持向量机 67
4.6.2 软间隔支持向量机 71
4.6.3 非线性支持向量机 73
算法案例1 75
算法案例2 78
思考题 79
拓展阅读 80
参考文献 80
第5章 贝叶斯分类器 82
5.1 贝叶斯推理原理 82
5.1.1 逆概率推理 82
5.1.2 贝叶斯公式 83
5.1.3 贝叶斯分类 84
5.2 贝叶斯决策算法 85
5.2.1 最小错误率贝叶斯分类 85
5.2.2 最小风险贝叶斯分类 87
5.2.3 朴素贝叶斯分类 88
5.3 贝叶斯分类器分析 89
5.3.1 正态分布下的贝叶斯分类 89
5.3.2 贝叶斯分类的错误率 94
5.4 贝叶斯分类器的训练 96
5.4.1 贝叶斯分类器训练的原理 96
5.4.2 最大似然估计 97
5.4.3 贝叶斯估计 99
算法案例 99
思考题 101
拓展阅读 102
参考文献 102
第6章 最近邻分类器 103
6.1 模板匹配算法 103
6.2 最近邻分类器 107
6.3 KNN算法 109
6.3.1 KNN算法原理 109
6.3.2 KNN算法的错误率 109
6.4 改进KNN算法 110
6.4.1 快速KNN算法 110
6.4.2 压缩近邻法 111
算法案例 111
思考题 112
拓展阅读 113
参考文献 113
第7章 组合分类器 115
7.1 组合分类器原理 115
7.2 组合分类器的主要类型 117
7.2.1 Bagging算法 117
7.2.2 Boosting算法 118
7.2.3 Stacking算法 119
7.3 随机森林算法 120
7.4 Adaboost算法 122
算法案例 126
思考题 128
拓展阅读 129
参考文献 129
第8章 数据聚类 130
8.1 数据聚类原理 130
8.1.1 数据聚类的定义 130
8.1.2 数据聚类的特点 131
8.1.3 数据聚类的应用 133
8.2 数据聚类算法 134
8.2.1 试探法聚类 134
8.2.2 层次聚类 136
8.2.3 动态聚类 141
8.3 数据聚类的流程 145
8.3.1 聚类特征选择 145
8.3.2 相似度度量标准 146
8.3.3 聚类准则 147
8.3.4 聚类算法选择 147
8.3.5 聚类结果评价 148
算法案例 148
思考题 150
拓展阅读 150
参考文献 150
第9章 模糊模式识别 151
9.1 模糊数学基础 151
9.1.1 模糊集合的定义及基本运算 152
9.1.2 模糊关系及模糊矩阵 158
9.2 最大隶属度识别 162
9.2.1 形式一 162
9.2.2 形式二 162
9.3 择近原则识别 162
9.3.1 贴近度 163
9.3.2 择近识别算法 163
9.4 模糊聚类算法 164
9.4.1 模糊层次聚类 164
9.4.2 模糊K-均值聚类 167
算法案例 169
思考题 171
拓展阅读 171
参考文献 172
第10章 神经网络模式识别 173
10.1 人工神经网络的原理 173
10.1.1 人工神经元模型 174
10.1.2 人工神经网络模型 176
10.1.3 人工神经元的学习规则 179
10.1.4 人工神经网络的学习规则 182
10.2 浅层神经网络 185
10.2.1 感知器网络 185
10.2.2 反向传播网络 187
10.3 深度学习 191
10.3.1 深度信念网络 192
10.3.2 卷积神经网络 195
10.3.3 循环神经网络 201
10.3.4 Transformer网络 206
10.4 预训练大模型 209
10.4.1 ChatGPT工作原理 209
10.4.2 GPT系列模型分析 211
算法案例1 214
算法案例2 217
思考题 219
拓展阅读 220
参考文献 220
第11章 结构模式识别 222
11.1 结构模式识别原理 222
11.1.1 结构模式识别 222
11.1.2 结构模式识别中的基元、结构和类 223
11.1.3 结构模式识别与统计模式识别的对比 224
11.1.4 结构模式识别方法 225
11.2 句法模式识别 227
11.2.1 形式语言理论的基本概念 227
11.2.2 乔姆斯基体系中的四种文法 229
11.2.3 句法模式识别的基本原理 232
11.2.4 句法分析 233
11.2.5 文法推断 236
算法案例 237
思考题 238
拓展阅读 238
参考文献 238
近年来,人工智能技术的迅猛发展引起了社会的广泛关注,也对人类社会生产生活的方方面面产生了巨大的影响。人工智能技术可以分为感知、决策和行动三个方面,模式识别就是实现人工智能感知功能的核心技术之一,扮演着至关重要的角色,也是人工智能领域学习、研究和工程实践中不能忽视的重要内容。
模式识别真的只是人工智能发展过程中的一个研究分支吗?从历史发展过程来看,模式识别技术可以追溯到20世纪初期的某些具备自动识别能力的机械装置,例如1929年奥地利发明家陶舍克(Tauschek)发明的光电阅读机。后续逐步产生了各种基于空间变换、统计推断、最优化理论和神经仿生模型等不同原理的算法,其中并非每一种算法都能带给人“智能”的感受。由此看来,虽然模式识别技术能够为人工智能系统提供感知功能,但它的本质仍然是一种试图从实践上解决机器识别工程问题的技术科学。这个基本的认知,也是本书整体撰写的出发点。
本书的内容,就是从分析解决机器识别工程问题的角度来介绍模式识别领域的基本概念、基本原理和实践应用技术,为读者提供一个全面、系统的模式识别知识结构,帮助读者掌握这一领域的核心技术和应用方法。
在第1章绪论中,首先通过对比生物所具有的识别能力,引入了模式识别的定义和核心概念,阐释了它与人工智能、机器学习之间的内在联系,建立了工程所需的模式识别系统架构,梳理了完整的模式识别算法体系,也介绍了模式识别广泛的应用场景,为读者提供了一个全景式的宏观知识框架。随后的两个章节,则逐步阐述了模式识别技术中特征工程、统计学习理论等基础性的知识要点和关键技术。在第2章特征生成和特征降维中,阐述了如何从原始数据中提取有效特征,并进行降维处理,以提高分类器的性能。在第3章统计学习理论中,简要介绍了这一机器学习理论中的一些重要概念,包括学习过程的一致性、函数集的容量和VC维等,为后续统计模式识别算法的深入理解奠定基础。在第4章、第5章和第6章中,则深入分析了线性分类器、贝叶斯分类器、最近邻分类器等非常基础也非常重要的模式识别算法,包括这些算法的工作原理、训练方法和实践应用中的相关问题。第7章则通过讲解组合分类器,展示了组合多个弱分类器来提高整体分类器性能的集成策略。在第8章数据聚类中,讲解了多种无监督学习的典型方法。在第9章模糊模式识别中,则以模糊集理论为基础,介绍了如何通过对传统模式识别算法的模糊化改造,来获得更好的算法性能和更宽广的应用范围。第10章神经网络模式识别是本书中非常重要的一章,它从最基础的人工神经元模型入手,逐步建立和分析了浅层神经网络、深度学习直至预训练大模型等多种不同层级的模型和算法,将整本书的内容链接到了目前人工智能技术的前沿领域和最新发展趋势之中。第11章则通过对以句法模式识别为代表的结构模式识别算法的讲解,引出了分析解决模式识别问题的另一种思路。
在长期的模式识别课程教学和带领学生开展模式识别理论与应用研究的过程中,我们一直有两点深刻的感受:一是模式识别算法大多有严密的数学基础,但它并不是一种“书斋中的学术”,而需要明确地建立从理论到应用的工程思维;二是虽然目前有大量的成熟平台和算法可供使用,但学习模式识别又必须回到理论根基,弄明白每一种算法的原理和本质,才能研究发展出更好的模式识别方法。总的来说,就是要在“知其所以然”的基础上“知其然”,最终还要学会“知其用”,这样才能真正地促进我国模式识别学科的长远发展。
因此,本书的两大特点就是:既关注整个模式识别领域的知识体系和核心原理,讲深讲透,又特别强调应用各种模式识别算法来解决工程实践问题。在整个教材中,始终通过手写数字识别等典型的模式识别案例作为牵引,不断尝试用各章节所介绍的知识和方法来分析解决实际问题,帮助读者体验模式识别技术的工程特性,并增强分析解决问题的能力。
本书的编写,得益于编者近20年开展模式识别领域教学和科研工作的经验积累。这也使得本书不再是孤立的一本图书,而是可以和同步建设的国家级一流线上课程、实践项目以及教研教改资源相互支撑,共同为人工智能和模式识别领域的人才培养提供参考。其中所涉及的数字化资源,读者可以通过正文中所提供的二维码访问使用。
本书的编写是整个课程团队共同努力的结果。其中,潘峰负责第9章和第10章的编写,李位星负责第3章、第7章和第8章的编写,冯肖雪负责第4章、第5章和第6章的编写,高琪负责第1章、第2章和第11章的编写,以及整本教材的统稿工作。本书的编写还得到了北京理工大学相关部门的支持和帮助,教务部大力支持和资助了相关的教研教改活动,自动化学院则为课程团队的各项工作提供了良好的条件。最后,还要感谢机械工业出版社各位编辑在本书编写出版过程中付出的辛劳。
人工智能技术还在快速发展,模式识别技术的理论研究和实践应用也在持续地同步推进中。我们期望本书不仅能够成为高等院校计算机科学、电子工程、自动化及其他相关专业有用的一本模式识别课程教材,也能够为相关领域的研究人员和工程技术人员提供有价值的参考。同时欢迎读者对本书和相关的配套资源中的不当之处批评指正,我们将根据您提出的宝贵意见与建议对本书持续修改完善,使其能发挥更好的作用。
编 者
评论
还没有评论。