描述
开 本: 16开纸 张: 胶版纸包 装: 平装-胶订是否套装: 否国际标准书号ISBN: 9787302581871
全局化算法致力于用计算的手段近似求解出化问题的全局解,在科学与工程问题中具有非常重要的地位。
随着人工智能浪潮的到来,这一地位得到了进一步加强。本书介绍作者近十年来在全局优化领域的研究中提出来的一类新方法,这类方法采用了多水平、多尺度的递归深度群体搜索策略,能够用更少的成本找到精度更好的近似解。本书介绍递归深度群体搜索策略及其在确定性全局优化和智能优化两个子领域的具体应用。这些研究成果都已在全局优化和演化计算领域的国际期刊发表。同时,本书的主题符合新一代人工智能发展的需求。因此,本书具有很好的前沿性与时代特色。
本书介绍全局优化算法的基本理论和研究进展,特别聚焦于近几年提出的基于递归深度群体搜索的一类新方法,并详细介绍递归深度群体搜索技术在确定性全局优化和智能优化算法中的具体应用。在确定性全局优化中,以DIRECT算法为例,深入介绍了递归深度群体搜索的设计原则与技巧;在智能优化中,以粒子群优化算法为例,介绍了递归深度搜索和群体搜索的融合方法及性能提升。本书提供了全局优化算法从入门到精通的各种材料,包括基本概念、基本理论、算法设计原则与技巧、国际通用的测试函数库、主流的测试数据分析方法和技术。因此,本书适合于对全局优化算法有兴趣的高年级本科生、研究生、研究人员以及工程技术人员。
第1部分 全局化问题、算法与递归深度群体搜索技术
第1章 全局化问题与算法简介 3
1.1 化问题 3
1.1.1 化模型 3
1.1.2 化问题的基本理论 4
1.1.3 化算法简介 6
1.2 全局化问题 8
1.2.1 全局化问题的理论困境: 全局性条件的缺失 9
1.2.2 全局化问题的数值困境: 计算复杂度的挑战 9
1.2.3 全局化问题的数值困境: 问题维数的诅咒 11
1.3 全局化算法简介 12
1.3.1 确定性全局优化算法 12
1.3.2 随机性全局化算法 14
第2章 递归深度群体搜索技术 18
2.1 全局化的渐近无效现象 18
2.1.1 渐近无效的一个实例 18
2.1.2 渐近无效的普遍性 20
2.2 递归深度群体搜索技术 22
2.2.1 递归深度的技术渊源: 数值代数中的多重网格法 23
2.2.2 全局化中的群体搜索技术 27
2.2.3 递归深度群体搜索的实现方法 29
2.3 本书后续内容安排 32
第2部分 递归深度群体搜索技术在确定性全局化算法中的应用
第3章 稳健DIRECT算法 37
3.1 DIRECT 算法 37
3.1.1 Lipschitz 优化与Lipschitz 常数 37
3.1.2 抽样与分割 39
3.1.3 区域选择 41
3.1.4 DIRECT 算法的全局收敛性 43
3.1.5 DIRECT 算法的代码获取 45
3.2 DIRECT 算法的一些变化 45
3.2.1 区域大小 45
3.2.2 分割方式 45
3.2.3 动态平衡参数 46
3.3 DIRECT 算法对目标函数线性校正的敏感性 46
3.3.1 敏感性的理论证据 46
3.3.2 敏感性的数值证据 48
3.4 稳健DIRECT 算法 48
3.4.1 对潜区域的重新定义 48
3.4.2 稳健性的证明 49
3.5 数值实验 50
第4章 基于递归深度群体搜索的稳健DIRECT算法 54
4.1 DIRECT 算法的渐近无效行为 54
4.1.1 强超矩形 55
4.1.2 渐近无效性的证据与分析 55
4.2 引进两水平深度搜索策略 56
4.2.1 两重网格方法 57
4.2.2 两水平深度搜索策略 58
4.2.3 RDIRECT-b 算法 60
4.3 数值实验(一) 61
4.3.1 对问题(4.1)的测试结果 62
4.3.2 对Jones 测试集的测试结果 62
4.3.3 RDIRECT-b 算法的参数灵敏度分析 64
4.3.4 在Hedar 测试集上的测试结果 67
4.4 引进递归深度技术产生多水平搜索 69
4.4.1 多重网格方法 69
4.4.2 MrDIRECT算法 71
4.5 数值实验(二) 72
4.5.1 对问题(4.1)的测试结果 72
4.5.2 对Hedar 测试集的测试结果 73
4.5.3 MrDIRECT 算法的参数灵敏度分析 75
4.5.4 GKLS 测试集上的数值结果 78
4.6 结论 81
第5章 DIRECT 算法渐近无效现象的消除 82
5.1 DIRECT 算法渐近无效的两大内因 82
5.1.1 再探DIRECT 算法的渐近无效现象 83
5.1.2 个内因: 平衡机制 84
5.1.3 第二个内因: 参数? 84
5.2 MrDIRECT 算法与渐近无效行为的个内因 85
5.2.1 在问题(4.1)上的测试 86
5.2.2 Shubert 型测试集的测试 87
5.2.3 数据结果的解释 88
5.3 MrDIRECT 算法的改进与渐近无效行为的第二个内因 90
5.3.1 问题(4.1)中的测试结果 90
5.3.2 Shubert 型测试集上的测试结果 91
5.3.3 整个Hedar 测试集上的比较 92
5.4 改进MrDIRECT 算法的数值实验 93
5.4.1 Hedar 测试集的测试 93
5.4.2 再看Shubert 问题 94
5.4.3 GKLS 测试集和CEC 测试集上的数值比较 95
5.5 总结 99
第6章 递归深度群体搜索技术的更一般应用与探讨 101
6.1 基于分割的全局优化算法 101
6.1.1 PGO 算法框架 101
6.1.2 PGO 算法的收敛性 103
6.2 基于递归深度群体搜索的一般分割式全局优化算法 105
6.2.1 基于两水平分割的GOMP-T 算法 105
6.2.2 基于多水平分割的GOMP 算法 106
6.2.3 GOMP 算法的收敛性 108
6.3 递归深度搜索与深度学习 110
6.3.1 深度学习简介 110
6.3.2 深度搜索与深度学习的联系与区别 111
6.4 搜索深度对算法的影响 113
6.5 数值结果分析 115
第3部分 递归深度群体搜索技术在智能优化算法中的应用
第7章 粒子群优化算法 119
7.1 粒子群优化算法 119
7.1.1 群体智能优化简介 119
7.1.2 原始粒子群优化算法 119
7.1.3 经典粒子群优化算法 121
7.2 粒子群优化算法的研究进展简介 121
7.2.1 动态方程的变化 121
7.2.2 拓扑选择与优化 122
7.2.3 理论研究进展 124
第8章 粒子群优化算法的稳定性分析 126
8.1 稳定性分析的一个综述 126
8.2 弱停滞性假设 129
8.2.1 粒子分类和知识传播 129
8.2.2 占优粒子的领导行为 130
8.3 二阶稳定性分析 132
8.3.1 稳定性定义 132
8.3.2 计算E[R2(t)] 134
8.3.3 参数的稳定域 136
8.4 比较和讨论 137
8.5 数值实验 139
8.5.1 算法配置和测试问题 139
8.5.2 数据分析技术 141
8.5.3 稳定性和效率 143
8.5.4 “” 参数设置 146
8.5.5 测试问题的影响 146
8.6 总结与展望 149
第9章 粒子群优化算法的拓扑优化分析 150
9.1 拓扑优化研究回顾 151
9.1.1 静态拓扑优化的现有工作 151
9.1.2 结论 152
9.2 基于正则图的粒子群优化及其拓扑优化 153
9.2.1 正则拓扑的生成 153
9.2.2 平均路径长度和平均聚类系数 154
9.2.3 正则拓扑的参数优化 160
9.3 数值实验 162
9.3.1 实验设置 162
9.3.2 数据分析技术 164
9.3.3 给定粒子数情况下的度数 165
9.3.4 粒子数 171
9.3.5 讨论 173
9.4 结论 173
第10章 基于递归深度群体搜索的粒子群优化算法 174
10.1 算法框架 174
10.2 基于RDSS 技术的两水平粒子群优化算法 176
10.2.1 算法实现与参数设置 176
10.2.2 数值实验 176
10.3 基于RDSS 技术的三水平粒子群优化算法 178
10.3.1 算法实现与参数设置 178
10.3.2 数值实验 179
10.4 结论与展望 181
10.4.1 渐近无效现象的普遍性 181
10.4.2 递归深度群体搜索技术的作用 181
10.4.3 未来的研究方向 182
第4部分 附录
附录A 带残差校正的多重网格法的收敛性分析 185
A.1 引言 185
A.2 扰动两重网格方法 .186
A.3 带残差校正的多重网格法的收敛性分析 188
A.3.1 在细一层进行残差校正的收敛性分析 189
A.3.2 在任意k (1≤k≤L) 层进行残差校正的收敛性分析 190
A.3.3 ??> 2 时的收敛性分析 192
A.4 数值实验 193
A.5 小结 196
附录B 全局优化算法的数值比较简介 197
B.1 全局优化测试函数库简介 197
B.1.1 Hedar 测试函数库 197
B.1.2 GKLS 测试函数库 199
B.1.3 CEC 测试函数库系列 200
B.1.4 BBOB 测试函数库系列 201
B.1.5 更多测试函数库 202
B.2 全局优化算法的比较方法 202
B.2.1 用表格呈现数据 202
B.2.2 L 型曲线法 203
B.2.3 performance profile 技术 203
B.2.4 data profile 技术 204
参考文献 206
序
全局化(global optimization)是相对于局部化(local optimization)来说的,它们共同构成了化问题的两种别有风味的不同领域。化问题指的是人们在认识和改造世界的过程中,在各种资源约束下,希望某个(些)目标函数达到或小的技术。局部化满足于获得目标函数的局部解,即对解进行微小扰动不会让目标变得更好。而全局化希望寻找到目标函数的全局解,无论(在满足约束的情况下)对解怎么扰动,都不会让目标变得更好。显然,全局解才是人们希望得到的。然而,遗憾的是,人类至今没有找到方便有效的数学准则(全局性条件)来判别一个解是否是全局的,除非目标函数及约束条件具有特殊性质。
为了解决一般目标函数的全局化问题,往往有两种不同的思路。一种思路是采用确定性的稠密搜索,即把几乎所有可能的解进行对比。显然,这类方法一般只适用于控制变量少的低维问题;另一种思路是模拟生物现象、自然现象和社会现象等,从中获取某种全局引导信息,并设计算法来尽可能接近全局解。这一类算法往往借助随机性来加强全局搜索能力。
本书是作者近年来在全局化领域的研究成果的汇总和融通。在研究过程中,得到了国家自然科学基金面上项目(编号61773119)、教育部人文社科青年基金(编号13YJC630095)、广东省自然科学基金(编号2015A030313648)、广东省普通高校重点领域专项(编号2019KZDZX1005)以及东莞理工学院高层次人才项目(合同编号DGUT(Q)-GGB-2016005)的资助,在此一并感谢!
本书主要围绕如何克服全局化算法的一个不良现象——渐近无效现象来展开。全局化的渐近无效现象指的是,算法可以快速地以不太高的精度接近全局解,却要花费越来越多的计算成本才能逐渐提高解的精度。本书系统地研究了递归深度群体搜索技术是如何解决这一现象的。该技术放弃了只在一个搜索空间中寻找全局解的传统做法,转而在搜索过程中根据历史信息,动态构建多层次的搜索空间,通过递归调用同一个全局化算法,在不同规模的搜索空间之间进行信息反馈和协同搜索,从而更高效地找到全局方案。
本书共分4 个部分,各部分可单独阅读。第1 部分首先介绍全局化的问题和算法,然后介绍递归深度群体搜索技术。在后面两个部分,分别将该技术应用到了两类全局化算法中去。第2 部分以一个确定性全局化算法(DIRECT 算法)为对象,详细介绍递归深度群体搜索策略怎样应用到DIRECT 算法中,并大幅度提升了DIRECT 算法的数值性能。第3 部分介绍递归深度群体搜索策略在粒子群优化算法这一随机性全局化算法中的应用。第4 部分是附录,介绍了适用于全局化算法设计和数值比较的一些通用的测试函数库和流行的数据分析方法,并介绍了递归深度群体搜索技术的一些数学渊源。
本书适合于对全局化问题感兴趣的研究人员和工程师阅读,也可作为数学、工程和管理等相关领域的研究生学习全局化算法的参考书。由于作者水平有限,欢迎广大读者提出对此书的看法与意见,更欢迎读者指出书中的纰漏与谬误,以携作者日后改进,甚谢!
编 者
2020 年10 月
评论
还没有评论。