应用预测建模

 

这是一本专注于预测建模的数据分析书，意在为实践者提供预测建模过程的指导，比如如何进行数据预处理、模型调优、预测变量重要性度量、变量选择等。读者可以从中学到许多建模方法以及提高对许多常用的、现代的有效模型的认识，如线性回归、非线性回归和分类模型，涉及树方法、支持向量机等。第10章和第17章分别研究混凝土混合物的抗压强度和作业调度两个案例。 作者重实际应用，轻数学理论，从实际数据出发，结合开源软件R语言来求解实际问题，详细给出R代码和处理的步骤。R包AppliedPredictiveModeling包含书中使用的数据，以及可以用于重复书中每一章分析的R代码，让读者能在一定精度范围内重复本书的结果，并自然地将书中的预测建模方法应用到自己的数据上。章后附有习题，方便读者巩固所学。 这本业界互相推荐的好书，适合所有数据分析人员阅读。

目录译者序前言第1章导论11预测与解释12预测模型的关键部分13专业术语14实例数据集和典型数据场景15概述16符号部分一般策略第2章预测建模过程简介21案例分析：预测燃油效能22主题23总结第3章数据预处理31案例分析：高内涵筛选中的细胞分组32单个预测变量数据变换33多个预测变量数据变换34处理缺失值35移除预测变量36增加预测变量37区间化预测变量38计算习题第4章过度拟合与模型调优41过度拟合的问题42模型调优43数据分割44重抽样技术45案例分析：信用评分46选择调优参数值47数据划分建议48不同模型间的选择49计算习题第二部分回归模型第5章衡量回归模型的效果51模型效果的定量度量52方差偏差的权衡53计算第6章线性回归及其扩展61案例分析：定量构效关系建模62线性回归63偏小二乘法64惩罚模型65计算习题第7章非线性回归模型71神经网络72多元自适应回归样条73支持向量机74K近邻75计算习题第8章回归树与基于规则的模型81简单回归树82回归模型树83基于规则的模型84装袋树85随机森林86助推法87Cubist88计算习题第9章溶解度模型总结第10章案例研究：混凝土混合物的抗压强度101模型构建策略102模型性能103优化抗压强度104计算第三部分分类模型第11章分类模型的效果度量111类预测112评估预测类113评估类概率114计算第12章判别分析和其他线性分类模型121案例分析：预测是否成功申请经费122逻辑回归123线性判别分析124偏小二乘判别分析125惩罚模型126近收缩质心127计算习题第13章非线性分类模型131非线性判别分析132神经网络133灵活判别分析134支持向量机135K近邻 136朴素贝叶斯137计算习题第14章分类树与基于规则的模型141基本的分类树142基于规则的模型143装袋决策树144随机森林145助推法146C50147比较两种分类预测变量编码方式148计算习题第15章经费申请模型的总结第16章对严重类失衡的补救方法161案例分析: 预测房车保险所有权 162类失衡的影响163模型调优164选择截点165调整先验概率166不等案例权重167抽样方法168成本敏感度训练169计算习题第17章案例研究：作业调度171数据切分和模型策略172结果173计算第18章衡量预测变量重要性181数值结果变量182分类结果变量183其他方法184计算习题第19章特征选择介绍191使用无信息预测变量的结果192减少预测变量个数的方法193绕封法194过滤法195选择偏差196案例分析：预测认知损伤197计算习题第20章影响模型表现的因素201第Ⅲ类错误202结果变量的测量误差203预测变量的测量误差204连续变量离散化205模型预测何时是可信的206大样本的影响207计算习题附录附录A各种模型的总结附录BR语言介绍附录C值得关注的网站参考文献

前言这是一本关于数据分析的书，专注于预测建模的实际应用。“预测建模”一词可能让人联想起诸如机器学习、模式识别和数据挖掘。事实上，这样的联想是很自然的，这些专业名词指代的方法是预测建模整体过程的一部分。但是预测建模所涵盖的范围远大于发现数据模式的工具和技术。应用预测建模定义了这样一个建立模型的过程，我们能理解和量化模型对未来即将看到的数据的预测准确度。本书的核心内容就是其中的整个过程。 本书意在为实践者提供预测建模过程的指导，读者可以从阅读中学到许多（建模）方法以及提高对许多常用的、现代的有效模型的认识。我们会介绍许多统计和数学技术，但在任何情况下我们描述技术细节的动机都是帮助读者理解模型的优缺点，而非（单纯）数理统计知识。我们极力避免复杂的公式，但是有少数例外。关于预测模型的理论知识，推荐这两本书，即Hastie等(2008)和Bishop (2006)。本书的读者需要有一些基本的统计学知识，包括方差、相关性、简单线性回归以及基本的统计假设检验（如p值和检验统计量）。 预测建模的过程本质上具有很强的应用实践性。但我们研究发现，很多文章、出版物不能让读者再现（他们的）建模结果，因为数据不公开，或读者无法使用相应软件，又或软件需付费。Buckheit和Donoho(1995)对传统学术界提出了相似的批评： 一篇发表于科学刊物上关于计算机科学的文章本身不是学术，仅是关于学术的广告。真正的学术是完整的软件开发环境和能够生成那些图的所有指令集。 因此，我们的目标是尽可能地具有实践应用性，让读者能在一定精度范围内重复本书的结果，且可以自然地将书中的预测建模方法应用到他们自己的数据上。再者，对于整个建模过程，我们使用R语言(Ihaka和Gentleman 1996; R Development Core Team 2010),这是一个用于数学和统计计算的免费软件。几乎所有例子中的数据集都可以在相应R包中找到。R包AppliedPredictiveModeling包含了书中使用的很多数据，以及可以用于再现书中每一章分析结果的R代码。 我们选择R作为计算引擎有如下几个原因。首先R是免费的（虽然也有商业版的R），可以在不同的操作系统上使用。其次，它在通用公共许可（General Public License）下发行(免费软件基金2007年6月)，该许可阐明程序再次发布的规则。在此构架下，任何人可以任意检查、修改源程序。由于开源特性，很多预测模型已经由R包可以实现。再者R有进行预测建模的大量强大的功能。不熟悉R的读者可以在网上找到大量的入门教程（见附录）。 由于篇幅所限，本书没有涵盖广义加性模型、模型集成、网络模型、时间序列等内容。 本书还有一个配套网站： http://appliedpredictivemodeling.com/其中含有一些相关内容。 没有如下这些人的指导和帮助不会有本书的问世：Walter H Carter, Jim Garrett,Chris Gennings, Paul Harms, Chris Keefer, William Klinger, Daijin Ko, Rich Moore, David Neuhouser, David Potter, David Pyne, William Rayens, Arnold Stromberg和Thomas Vidmar。我们还要感谢Ross Quinlan对Cubist和 C50部分的帮助，他们帮我们修正了这两部分的一些描述。我们还要感谢Springer出版社的Marc Strauss和Hannah Bracken以及审阅者Vini Bonato、Thomas Miller、Ross Quinlan、Eric Siegel、Stan Young和一位匿名审阅者。后我们要感谢家人的支持：Miranda Kuhn, Stefan Kuhn, Bobby Kuhn, Robert Kuhn, Karen Kuhn 和Mary Ann Kuhn; Warren和Kay Johnson，Valerie和Truman Johnson。 Max KuhnKjell Johnson