模式识别（第三版）

第1章 概论
1．1 模式与模式识别
1．2 模式识别的主要方法
1．3 监督模式识别与非监督模式识别
1．4 模式识别系统举例
1．5 模式识别系统的典型构成
1．6 本书的主要内容

第2章 统计决策方法
2．1 引言：一个简单的例子
2．2 小错误率贝叶斯决策
2．3 小风险贝叶斯决策
2．4 两类错误率、Neyman-Pearson决策与ROC曲线
2．5 正态分布时的统计决策
2．5．1 正态分布及其性质回顾
2．5．2 正态分布概率模型下的小错误率贝叶斯决策
2．6 错误率的计算
2．6．1 正态分布且各类协方差矩阵相等情况下错误率的计算
2．6．2 高维独立随机变量时错误率的估计
2．7 离散概率模型下的统计决策举例
2．8 小结与讨论

第3章 概率密度函数的估计
3．1 引言
3．2 似然估计
3．2．1 似然估计的基本原理
3．2．2 似然估计的求解
3．2．3 正态分布下的似然估计
3．3 贝叶斯估计与贝叶斯学习
3．3．1 贝叶斯估计
3．3．2 贝叶斯学习
3．3．3 正态分布时的贝叶斯估计
3．3．4 其他分布的情况
3．4 概率密度估计的非参数方法
3．4．1 非参数估计的基本原理与直方图方法
3．4．2 kN近邻估计方法
3．4．3 Parzen窗法
3．5 讨论

第4章 线性分类器
4．1 引言
4．2 线性判别函数的基本概念
4．3 Fisher线性判别分析
4．4 感知器
4．5 小平方误差判别
4．6 分类超平面与线性支持向量机
4．6．1 分类超平面
4．6．2 大间隔与推广能力
4．6．3 线性不可分情况
4．7 多类线性分类器
4．7．1 多个两类分类器的组合
4．7．2 多类线性判别函数
4．8 小结与讨论

第5章 非线性分类器
5．1 引言
5．2 分段线性判别函数
5．2．1 分段线性距离分类器
5．2．2 一般的分段线性判别函数
5．3 二次判别函数
5．4 多层感知器神经网络
5．4．1 神经元与感知器
5．4．2 用多个感知器实现非线性分类
5．4．3 采用反向传播算法的多层感知器
……
第6章 其他分类方法
第7章 特征选择
第8章 特征提取
第9章 非监督模式识别
第10章 模式识别系统的评价
索引
参考文献

从本书第二版出版到现在已经又是十年了。在这十年里，我们真切地感受到了信息时代的到来。对信息的处理和分析，已经不仅仅是信息科学家所关心的问题，也不仅仅是信息技术产业所关心的问题，而是为很多学科和很多领域共同关心的问题。作为信息处理与分析的重要方面，模式识别也开始从一个少数人关心的专业，变成一个在工程、经济、金融、医学、生物学、社会学等各个领域都受到关注的学科。
　　模式识别学科的发展，可以从笔者所在的清华大学自动化系在模式识别专业教学和教材上的沿革窥见一斑。早在1978年，在已故中科院学部委员常迥教授的领导下，自动化系成立了信号处理与模式识别教研组，后更名为信息处理研究所，1981年获准成立“模式识别与智能系统”学科（当时称“模式识别与智能控制”）的个硕士点、博士点。从那时起，边肇祺等教授就开始为研究生开设模式识别课程，后逐渐包括进少部分五年级本科生（当时清华大学本科学制为五年）。80年代中期，边肇祺、阎平凡、杨存荣、高林、刘松盛和汤之永等老师组成了教材编写小组，开始编写模式识别教材，这就是1988年出版的《模式识别》（版）。该教材的出版，为我国模式识别学科的发展做出了历史性的贡献，被很多高校和科研院所作为教材或参考书。十年以后，模式识别学科的内容有了很多更新和发展，我们成立了由边肇祺、阎平凡、赵南元、张学工和张长水组成的改写小组，由笔者与边肇祺老师共同组织编写了本书的第二版，2000年正式出版。此时的模式识别课程，已经由初只有十几位研究生参加的小课，发展为由上百名研究生和高年级本科生参加的大课。第二版教材也得到了国内同行的欢迎，9年内已经重印15次。
　　随着模式识别学科的日益发展，我们很快认识到，对模式识别课程的需求已经超出了本专业研究生的范围。于是我们将模式识别课程分为两门：面向研究生的“模式识别”和面向本科生的“模式识别基础”。到今天，本科生“模式识别基础”每年的选课人数也已达到100～150人，除了来自本系的学生，每年还有多位来自其他院系的学生选课。2007年，该课程荣幸地被评为精品课程。
　　在近几年的教学实践中，我们体会到，原来的教材有些地方不太适应大范围教学的需要，而且近十年来模式识别自身以及它在很多领域中的应用又有了很多新发展。因此，笔者从两年前开始着手编写新版教材。新版教材的出发点是：一方面，结合当前的发展，精炼传统内容，充实新内容，进一步增强实用性，接触学科前沿；另一方面，在教材的深度和广度上兼顾广大本科生学习的特点和本专业研究生的需求，力求达到使非本专业学生通过本教材能学到足够系统的基本知识，而本专业学生又能以本教材作为其专业研究的重要起点。
　　编写新版教材所需要的时间超出了我的预想，很高兴她今天终于能和读者见面了。在此要感谢在本书编写过程中给了我很多帮助的同事和同学们，尤其是：美国南加州大学的Jasmine X．Zhou教授在2007年给我提供了短期访问机会，使我能够有一段相对完整的时间集中开始本书的写作；蒋博同学通读了本书三分之二的初稿并作了多处补充；现在已经分别是电子科技大学和北京大学教师的凡时财、李婷婷同学帮助准备了本书部分素材。我还要感谢清华大学出版社王一玲编辑在本书编写过程中的一贯支持。当然，重要的，我要感谢参加本书版和第二版编写的所有老师，这不但是因为在这一版中仍使用了前两版的一些内容，更是因为，是这些老师们把我带进了模式识别的大门，使我受益至今。
　　由于时间仓促和个人水平所限，教材中难免有错误或不足之处，敬请广大同行和读者批评指正，相关内容请发电子邮件，以便在再版时补充和修改。
　　在本书终完稿的时候，我十岁的女儿以极大的兴致看完了我讲“模式识别基础”课的录像，并说将来长大了要听我讲课。谨以此书献给我的妻子和女儿。