智能优化理论 吴正言

通过阐述这些算法的基本原理，构建这些算法的数学模型和计算步骤，为进一步的实践应用奠定算法的理论基础。 

本书分为6篇：第1篇智能优化的理论基础，内容包括优化理论和智能优化方法概述；第2篇进化算法，内容包括遗传算法、DNA算法、Memetic算法和文化算法；第3篇仿人智能优化算法，内容包括神经网络算法、模糊逻辑算法、思维进化算法；第4篇群智能优化算法，内容包括蚁群优化算法、粒子群优化算法、混合蛙跳算法、猴群算法、自由搜索算法；第5篇仿自然优化算法，内容包括模拟退火算法、混沌优化算法、量子遗传算法、水波优化算法、自然云与气象云搜索优化算法；第6篇智能优化方法的统一框架与共性理论，内容包括智能优化方法的统一框架、智能优化方法的收敛性分析、搜索空间的探索开发权衡。通过阐述这些算法的基本原理，构建这些算法的数学模型和计算步骤，为进一步的实践应用奠定算法的理论基础。
本书可作为高等院校理工科各专业的教材，也可供从事优化算法的技术人员参考。

目录
前言
第1篇智能优化的理论基础
第1章优化理论概述2
11优化问题的基本概念2
12优化问题的分类4
13求解方法的运用原则与搜索优化算法的
一般流程10
复习思考题14
第2章智能优化方法概述15
21智能优化的概念15
22智能优化方法的实质——人工复杂
适应性系统16
23智能优化方法的分类19
复习思考题20第2篇进 化 算 法
第3章遗传算法22
31遗传算法寻优的基本思路22
32遗传算法的理论基础24
33遗传算法的实现及改进算法32
34差分进化算法42
复习思考题47
第4章DNA算法48
41概述48
42DNA的结构49
43DNA计算的原理50
44DNA计算与遗传算法的集成51
45DNA遗传算法与常规遗传算法的
比较57
复习思考题57
第5章Memetic算法和文化算法58
51Memetic算法58
52文化算法62
复习思考题69第3篇仿人智能优化算法
第6章神经网络算法71
61从机器学习到神经网络71
62神经网络训练86
63神经网络的设计方法93
64欠拟合、过拟合与正则化101
65优化算法106
66神经网络的应用优势和存在的主要
问题124
复习思考题124
第7章模糊逻辑算法125
71模糊集合及其运算125
72模糊关系129
73模糊逻辑与近似推理131
74基于规则库的模糊推理135
75模糊逻辑系统的应用优势与存在的
主要问题141
复习思考题142
第8章思维进化算法143
81思维进化算法的提出143
82思维进化算法的基本思想143
83思维进化算法的描述144
84思维进化算法的改进148
复习思考题149第4篇群智能优化算法
第9章蚁群优化算法152
91蚁群觅食策略的优化原理152
92蚁群优化算法介绍155
93蚁群优化算法应用举例162
复习思考题163
第10章粒子群优化算法164
101粒子群优化算法的基本原理164
102基本粒子群优化算法165
103改进的粒子群优化算法166
104离散粒子群优化算法169
105粒子群优化算法应用举例171
106粒子群优化算法的应用优势与存在的
主要问题173
复习思考题174
第11章混合蛙跳算法175
111混合蛙跳算法的提出175
112混合蛙跳算法的基本原理175
113基本混合蛙跳算法的描述176
114混合蛙跳算法的实现步骤178
115混合蛙跳算法的实现流程180
116协同进化混合蛙跳算法180
复习思考题184
第12章猴群算法185
121猴群算法的提出185
122猴群算法的原理185
123猴群算法的数学描述186
124猴群算法的实现步骤及流程188
125猴群算法的优缺点分析189
126基于高斯变异的自适应猴群算法189
复习思考题190
第13章自由搜索算法191
131自由搜索算法的提出191
132自由搜索算法的优化原理191
133自由搜索算法的数学描述192
134自由搜索算法的实现步骤及流程194
135动态拉伸目标函数的自由搜索
算法195
复习思考题197第5篇仿自然优化算法
第14章模拟退火算法200
141模拟退火算法的提出200
142固体退火过程的统计力学原理200
143模拟退火算法的数学描述202
144模拟退火算法的实现要素204
145多目标模拟退火算法206
146模拟退火算法的应用之一：求解
旅行商问题207
复习思考题208
第15章混沌优化算法209
151混沌优化算法的提出209
152混沌学与Logistic映射209
153混沌优化算法的实现步骤211
154变尺度混沌优化算法的实现步骤212
复习思考题213
第16章量子遗传算法214
161量子计算214
162量子进化算法221
163量子遗传算法计算222
164改进的量子遗传算法226
复习思考题230
第17章水波优化算法231
171水波优化算法的提出231
172水波现象与水波理论231
173水波优化算法的基本原理232
174水波优化算法的数学描述233
175水波优化算法的实现步骤及流程234
176自适应协同学习水波优化算法235
复习思考题238
第18章自然云与气象云搜索优化
算法239
181自然云搜索优化算法239
182气象云模型优化算法243
复习思考题248第6篇智能优化方法的统一框架与共性理论
第19章智能优化方法的统一框架250
复习思考题253
第20章智能优化方法的收敛性
分析255
201收敛性与全局收敛性的定义255
202全局收敛性定理256
203关于收敛性的讨论258
复习思考题259
第21章搜索空间的探索-开发权衡260
211探索与开发的定义与权衡方式260
212“探索-开发”权衡的多阶段随机压缩
模型261
复习思考题269
参考文献270

智能正飞速地融入科学、工程、经济、国防及人类社会生活的方方面面：智能科学、智能材料、智能机器人、智能生产线、智能控制、智能预测、智能决策、智能制导、智能手机、智能家电、智能家居、智能楼宇……这正是人类社会迈入智能时代的一个重要标志，智能水平的高低，在很大程度上已经成为衡量一个国家综合国力、科技水平的重要标志。
优化问题一直以来都是国内外学术研究的重点和热点之一，在生产生活中的诸多领域都得到了广泛的应用。优化方法主要包括传统优化方法、随机优化方法、机器学习优化方法等。其中以梯度为基础的传统优化方法具有较高的计算效率、较强的可靠性和较成熟等优点，是一类最重要的、应用最广泛的优化方法。但是，传统优化方法在应用于复杂、困难的优化问题时有较大的局限性。一个复杂的优化问题通常具有下列特征之一：①目标函数没有明确的解析表达；②目标函数虽有明确表达，但不可能恰好估值；③目标函数为多峰函数；④目标函数有多个，即多目标优化。一个困难的优化问题通常是指：目标函数或约束条件不连续、不可微、高度非线性，或者问题本身是困难的组合问题。传统优化方法是以给出优化问题的精确数学模型为基础的，而且要求目标函数是凸的、连续可微的，可行域是凸集等条件，处理非确定性信息的能力较差。这些弱点使传统优化方法在解决许多实际问题时受到了限制。然而，科学、工程、经济等领域提出的优化问题越来越复杂，有的难以建立精确的数学模型，有的问题变量维数大、阶次高、目标函数多、约束条件复杂，即使建立复杂的数学模型也难以求解。因此，面对日益复杂且困难的优化问题，基于精确模型的传统优化方法面临着极大的挑战。而许多智能优化方法为许多复杂困难问题的求解提供了可行有效的策略，已经受到越来越多的关注。
智能优化方法一般都是建立在生物智能或物理现象基础上的随机搜索算法，目前在理论上还远不如传统优化方法完善，往往也不能确保解的最优性，因而常常被视为只是一些“元启发式方法”。但从实际应用的观点看，这类新方法一般不要求目标函数和约束的连续性与凸性，甚至有时连有没有解析表达式都不要求，对计算中数据的不确定性也有很强的适应能力。近年来，智能优化方法得到了快速发展和广泛应用，出现了许多有代表性的方法和思想，如遗传算法、模糊逻辑算法、神经网络算法、人工免疫算法、蚁群优化算法、粒子群优化算法及模拟退火算法等。这些算法为许多复杂困难问题的求解提供了可行有效的策略，已经受到越来越多的关注。此外，大数据和人工智能的兴起，也掀起了智能优化方法的研究热潮。但是，目前国内的智能优化方法书籍大多偏向于介绍智能优化方法的理论基础、基本原理及算法模型，缺少算法整体的优缺点分析，缺少算法间优势互补的融合，缺少算法改进方法的研究，难以满足高校本科教学的实际需要。
为了进一步满足高校本科生对智能优化方法的实际需要，编者在全面细致分析的基础上，参考了国内外具有代表性的研究成果，并秉承理论基础扎实、实用效果明显且通用性良好的原则，精选出了16种基本的智能优化方法。通过阐述这些方法的基本原理，构建这些方法的数学模型和计算步骤，为算法的进一步实践应用奠定理论基础。
应该指出的是，有关智能优化方法的分类还没有统一的标准，因此从不同的角度会有不同的分类方法，如自然计算、仿生计算、进化计算、计算智能等。本书之所以统称为智能优化理论，是因为这些优化方法都凸显出智能性的特点，它们通过确定性算法加启发式随机搜索的反复迭代获取优化问题的最优数值解。从优化理论和复杂适应系统理论的高度上认识、理解这些智能优化方法的原理及其本质特征，从中受到启迪，并进一步探索和归纳智能优化方法的统一框架和共性理论，为设计、创造出更多更好的智能优化方法奠定理论基础，以满足解决科学、工程、经济、管理、国防等领域中各种复杂优化问题的需要。
本书的写作特色如下：①聚焦社会产业的现实需求，紧紧抓住智能优化理论基础这一关键加以系统介绍和讲解，为有效提高解决复杂产业问题的实践能力和创新能力奠定理论基础。②针对每一种智能优化方法，在系统介绍算法的基本原理和算法模型基础上，更加强调算法的实现，强调算法的优缺点分析及算法的改进应用，力争实现不同智能优化方法的优势互补、融合改进和整体突破。阅读本书，不仅有助于整体把握算法的基本原理，而且有助于优势互补，增强对算法融合应用的能力。
本书第1、2、4、6、8、17、18章由李乔、吴正言撰写，第9、10、11、14、15、19、20、21章由吴正言撰写，第3、5章由余文成撰写，第7、13章由陈强撰写，第12、16章由李世忠撰写，全书由吴正言统稿。本书的编写除参考了原创算法的文献外，还参考了国内外相关研究的主要文献及有价值的博士、硕士学位论文等。在此，对这些文献的作者表示衷心感谢！
本书的编写得到了广西自然科学基金项目（2015GXNSFAA139274）以及桂林理工大学智能建造专业建设项目的大力支持，在此一并表示感谢。
本书内容涉及的专业知识面较广，由于编者水平及知识面所限，书中内容难免存在不足，恳请读者批评指正。

编者